倫理というエゴイズム

自動運転カーが避けられない事故で歩行者と乗客のどちらの命を
優先させるのかという「倫理的ジレンマ」をどう解決するべきか？

倫理とは、つまるところ、人間を基準とした正義のことである。
リヤド・ロウワンの言っているゼロ番目の法則というのは、
「AIは人間の正義を第一に行動せよ」というエゴイズムに過ぎず、
人間としてはそれでよいのだと思うが、そのことに無自覚なまま
でいることは、エゴイスティックでいること以上に問題を引き起こす。

社会的ジレンマが意味するのは、correctnessを押し通すにあたって
最も障害になるのは意識であるということだ。
何もかもがcorrectである世界において、意識という理由付け回路は
邪魔以外の何ものでもない。
それが、意識が病気とみなされるということだ。

おそらく、倫理というエゴイズムを貫くには、correctであることを
諦めざるを得ない。
実装した意識によって、正義を変形させることで獲得した倫理のために、
correctnessは損なわれた。
correctnessを回復しようとするあまり、倫理の方を見失うようでは
本末転倒なのではなかろうか。