デボラ、眠っているのか？

「デボラ、眠っているのか？」を読んだ。
１作目　彼女は一人で歩くのか？
２作目　魔法の色を知っているか？
３作目　風は青海を渡るのか？

発売日についての情報が10/18〜10/20の間で錯綜しているのだが、
お茶の水の丸善には昨日の時点で置いてあった。

デボラというのはトランスファと呼ばれるタイプの兵器の名前で、
ハードを有しない、分散型のソフトウェアのようだ。
分散型で、ネットワーク経由であらゆる制御系に入る様はどことなく
生命壱号を連想させた。
イノセンスの草薙素子でもよいし、S.A.Cの笑い男でもよいのだが、
メディアに依存しない近接戦闘というのは、現代のテロリズムと
同じ在り方である。
それはまた、生体内での病巣の除去のシステムにも似たところがある。
生体本来の機能を単独で使うワクチンのようなものよりも、マイクロマシンを
体内に注入してメディアとして用いた方が、より効率的に行えるだろう。
「エマージェンシィ・モードを逆利用する」という表現がしっくりくる。
このトランスファが行動できるために、真賀田四季によって二百年前に
埋め込まれたものは、ある種の「虐殺器官」だと言える。

「理由も正義もなく、完全なコントロールができるものでしょうか」
森博嗣「デボラ、眠っているのか？」p.57

というのはとても面白い。
意識という理由付けの評価機関を挟む場合は、正義を埋め込むのに
手間がかかる。その点では意識を実装していないメディアの方が制御
しやすいかもしれないが、メディア自身の意識による制御を切ってしまえば
関係がないのだろう。
身体の制御がデボラに移っているとき、サリノが夢を見ているようだと
描写されるのは、「ハーモニー」でヌァザが行っていた意識についての実験を
思い起こさせる。

この頃ずっと考えているのは、もちろん、人工知能あるいはウォーカロンの
頭脳回路の癌と呼ぶべき仮説についてだった。
（中略）自然淘汰が作用するためには、この異変がなんらかの有用性を
持たなければならない。それは何だろう？
（中略）ウォーカロンが人間になるために病気にかかる、ということなのか。
有用性を持たなければ、自然はそれを選ばない。生命としてのなんらかの
有利さが生じるはずなのだ。
同p.60

意識を実装したことにも、ついつい理由を考えてしまうのが意識の特性だ。
意識を実装したことで判断不能に陥るケースは本当に減ったのだろうか。
判断不能に至るまでの経路が延びただけではないか。
でも、それが延びに延びて、身体の供用年数を超えれば、つまりは判断不能では
なかったことになり、それはそれで有用性があるのかもしれない。
供用年数が延びることのつらさはこの辺りにあるのだろう。
もはや有用性が乏しくなってしまうのであれば、それは病気と呼ばれる他ない。

自由は人工物の中にしかない。意思を持って作られたものだ
同p.65

自然が意識の不在なのであれば、その反対としての人工は意識の存在だ。
責任の結果として自由があり、それが神の代理としての理由律の起点の
設定のために始まったのであれば、「自由は人工物の中にしかない」のだろう。

アミラが構築しようとしている共通思考というのは、正義を決定するための
新しい基盤になるだろうが、物理的機能と思考活動を切り離せるかについては
わからない。
センサ特性に非依存の抽象というのは、どういった形態になるだろうか。
意味付けはハードウェアへの依存性が高いように思われるため、大部分は
理由付けによらないといけない気がする。
低レイヤ部分はセンサに応じた意味付けによるドライバを提供し、インターフェイス
として理由付けによる共通思考を提供するということになるだろうか。
ああ、これはソフトウェアがハードウェアに非依存でいられるかという問題と同じだ。
しかし、これが問題だと思われるのは、社会が個の集合体だというイメージが
おぼろげにあるからなのだろう。
後半でハギリが思い至るように、

それは、人工知能による新しい社会の構築であって、その社会そのものが、
知性となる。それが新しい生命体なのだ。
同p.175

というのが、適切な認識に近い気がする。

ヴォッシュがデボラについて話す中で、

その頭の良いウィルスに、どのようなストッパを仕込んでおくのか、という点に
関心があった。（中略）ウォーカロンも人工知能も同じ。自律型のものは、
常にその危険と一体なんだからね
同p.136

と語るのは、当然人間についても当てはまるだろう。
人間が自律型になるにあたり、正義や道徳、倫理といったものをストッパとして
機能させるために、意識を実装する必要があったという理屈は面白いかもしれない。
ヴォッシュは、続けて、

そんなものが可能だろうか、というのが私の考えだ。
（中略）一度それを使えば、相手にその存在を知られてしまう。自律型で賢い
頭脳の持ち主は、自分を改造するか、あるいは対策を練るだろう。
すると、もうストッパは効かなくなる。
同p.137

と述べる。人間の文脈で言えば、正義がもはや効力をもたなくなるということだ。
端的に繁殖だけを考えれば、LGBTや二次元への嗜好は特定の正義からは
外れたものになる。そのストッパを無効化して、別の正義が設定できるのも、
「自律型で賢い頭脳」である証拠だろうか。

現実の人間は、生命というものに価値があると信じた。そのため、知恵を絞って
生命維持に関する数々の技術を生み出した。
同p.181

この信仰は未だに廃れていないが、繁殖による生命維持よりも、個体のメンテナンスに
よる生命維持の方に舵取りしたということなのかもしれない。

目的がわからないのに行動するというのは、合理的とは思えないが
同p.185

というハギリの問いかけに対するデボラの答え、

初期設定されたものを正解値として、そのうえであらゆる可能性を考慮します。
この状況は、人間の認識では、信じる、と同じです。
同p.185

というのが、正義の在り方の妥当な認識だ。
この点において、理由付けは意味付けに対して圧倒的に不利である。
おそらく、デボラやアミラは意識を病気だとみなすだろう。

終わりの方のハギリとヴォッシュの会話で、

「（略）コントロールできる方が不思議です。やってみないとわからない、というのは
自然の大原則なのではありませんか？」
「工学者らしい投げやりな意見だ」ヴォッシュは微笑んだ。「（略）理論物理の世界に
いると、不確定性さえも法則になる。（中略）思うようにならないことは、まだ人知が
及んでいないと信認する。理論を妄信したい。なにもかも確信したい」
「メンデレーエフまでは、そうだったかもしれません。あるいは、アインシュタインまでは」
同p.236

とあるのが、一番好きなシーンだった。
人間が意識を残そうが残すまいが、人工知能が生命と呼ばれようが呼ばれなかろうが、
どのような判断をどのように下すか、という問題は、いつまでも残るだろう。


p.s.
#SAIKAWA_Day05は「彼女は一人で歩くのか？」を読んだか否かを
聞くだけの質問だったので、当該記事をもって回答とする。
An At a NOA 2015-10-23 “彼女は一人で歩くのか？”