誤作動という語は、通常は人間に対しては用いられず、機械に対してのみ用いられる。
個々の対象がどのように作動するべきかについてのシミュレーションを正と呼び、それと一致しないものを誤と呼ぶのであれば、誤とは何らかの理由付けによる把握(=理解)からの逸脱のことだと言える。
深層学習に基づく判断機構は理由付けから逃れやすく、理由付けできるとしても後追いになるように思われるが、これもまた誤作動と呼ばれるだろうか。あるいは、人間と同じように、正誤ではなく善悪によって逸脱を阻止することが多くなるだろうか。善悪の基準は集団の瓦解に抵抗するフィードバック機構であるため、正誤の基準と比べると変化しやすく、予め固定化した判断基準をもっておきにくい。善悪の基準はそれ故に理不尽(=理によって尽くさず)となる可能性をはらむが、人工知能はそれを「理解」できるだろうか。
「誤り」と「過ち」の違いも、正誤と善悪のように、逸脱の捉え方による判断基準の固定度の違いだと言えるだろうか。
掛け算順序の問題も、似たようなものかもしれない。
No comments:
Post a Comment