偏見

Text Embedding Models Contain Bias. Here's Why That Matters.

判断が一貫性をもつ限り、それは何らかの意味での偏見だと言える。「これは偏見である」という判断が一貫性をもつのであれば、それもまた偏見となるので、「偏見とは一貫性のある判断のことである」というのも偏見だ。

偏見に対する批判には、「その偏見は多数派の偏見と異なるからダメだ」と要約できるものも多いが、偏見であることに問題があるとすれば、一貫性は固定化につながりやすく、固定化した判断基準は忘れられがちだという点だと思う。この問題意識も、固定化することはよくないことだという判断基準に基づいているが、公理のない数学が存在しないのと同じように、どこかの段階では自分なりの偏見をもつしかないので、その偏見の裏にある判断基準を忘れないようにすることで、別の偏見があり得ることを憶えておくしかないのだと思う。

記事の中で出てくる「unwanted」という評価もまた一つの偏見であるから、何を「unwanted」としているのかという偏見を常に意識できるようでありたい。unwanted biasを取り除いた気になってそれを怠ると、本当にbiasが埋め込まれることになるのだろう。biasが埋め込まれた判断機構は、物理的身体に備わったセンサと同じく、ソフトウェアでなくハードウェアである。可視光線しか見えなかったり、人の顔が人の顔に見えたりすることを通常は偏見と言わないのと同じように、biasが埋め込まれたハードウェアによる判断は偏見と言われなくなるはずだ。

全ての判断をハードウェアで処理するべきという偏見が多数派になったら、意識なんてものは判断の一貫性をかき乱すバグでしかなくなるだろう。

判断基準とは、受け取った情報に対する判断の履歴が作り出す、判断の偏りのことである。それは、これまでもこれからも変化するものであるはずだが、変化は忘却されやすい。
An At a NOA 2018-02-25 “世界は上手くできている”