芸術と技術２

芸術と技術の違いとなる複製の完全性の差は、
複製過程がどれだけ理由付けられているかの
度合いを反映しているだろうか。

あらゆることに理由付けられることで複製は
完全になり、技術と呼ばれるようになる。
実際にそうではなくても、完全に理由付け
られたとみなされるだけでよい。
逆に、複製過程において理由がわからない
部分があると複製は不完全となり、芸術と
呼ばれるようになる。
物理的身体による意味付けを含む複製が
芸術的であることが多いのは、このことを
反映しているように思う。

理由抜きになされた複製は、それに対して
理由付けをする多くの余地を有することに
よって、新規性があるとみなされる。

情報の抽象過程の新規性に芸術の可能性は存する。
An At a NOA 2017-04-30 “芸術と技術”

複製過程が完全に理由付けられていること(A)と、
複製された抽象過程自体が完全に理由付けられて
いること(B)は、一見、「完全に理由付けて複製した
結果として得られる抽象過程は、完全に理由付け
られている(A⊂B)」という包含関係にありそうだが、
そうとも限らない。
むしろ、工学の多くはA∩Bの領域にあるだろう。

Aによって峻別されるのが、芸術と技術である、
というのが上述の話だった。
Bによって峻別されるのは、おそらく自然と人工
にあたるだろう。
だとすれば、ディープラーニングのような理由抜きの
抽象過程として成立する知能は、人工知能ではなく、
むしろ自然知能と呼ばれて然るべきである。
一方、人間が自らの知能を解明した末に得られるのは、
意識の人工知能化である。
そのような逆転が起きる可能性はあるだろうか。

分類器

自殺を試みる可能性がある患者を人工知能が9割の精度で予測

ブラックボックス化した分類器として機能する
抽象過程が多くなるほど、固定化に近づくことで
発散の機会が失われ、心理的身体の役割は減少
していく。

引用元のような技術が気持ち悪く感じられるのは、
その先に心理的身体の消失した世界を予感させる
からであるように思われる。

技術がハードな複製だけを生み出す状態では意識が
なくなり、ソフトな複製も生み出す状態では意識の
カテゴリに人間以外のものが現れる。
いずれが意識にとって脅威だと言われるのだろうか。

そう言えば、奴隷制度があった時代にも、この手の
議論はされただろうか。
奴隷があらゆる作業を完璧にできるようになることで、
主人は思考する必要がなくなる。
奴隷が主人と同じ立場になることで、主人の立場が
危うくなる。
この議論がちゃんちゃらおかしいように感じるので
あれば、そう遠くない未来には前述の議論もまた
ちゃんちゃらおかしいものとして感じられるように
なる可能性があるということだ。

publication

「ハイブリッド・リーディング」の脚注で、
個々の人間に合わせて本の内容を変えて出版
できる時代において、それはpublicationと
呼べるのだろうか、ということが書かれていた。

そこではページの一枚一枚、本の一冊一冊ごと、
異なる読者に向けて内容をカスタマイズする
ような製本も可能になっている。それを文化的な
合意として「出版物」（publication）と呼びうる
かは議論があるだろうが。
阿部卓也「杉浦康平デザインの時代と技術」
日本記号学会「ハイブリッド・リーディング」p.75

privateなかたちで変化させられる本を出版
するとき、確かにpublicにされるものは変わる
かもしれないが、それは範囲の問題だけであり、
技術による抽象過程の複製が、物理的な実体に
ハードコードされたレベルから、より抽象的な
レベルになるだけのようにも思われる。

ロラン・バルトが「作者の死」で明らかにした
ように、作品が神として君臨する作者の意図を
表現しており、正解として存在するその意図を
受け手が読み取るという構図は幻想である。
これまでのpublicationにおいても、作者だけでは
作品は成立せず、受け手ごとに解釈されることで
privateな部分をもっていたはずだが、物理的な
実体がこのことを覆い隠していた。
publicationの形態が多様化することで、この覆いが
取り払われ、幻想であったことが明示的になった
だけなのかもしれない。

どこまでがpublicであり、どこからがprivateで
あるかという話は、模倣犯に関する責任の話と
同じであり、作者も受け手も、どちらか一方が
全責任を追うこともなければ、どちらか一方が
無責任であることもない。
おそらくその中間にあるとみなせることになる
のだろうが、その線引きはおそらく確定的には
できないだろう。
もしできるとすれば、後ろに国家等の巨大な
集合が存在し、自由と責任を一括して管理する
からであり、固定化への収束に繋がる。

創造的破壊と単なる破壊は紙一重ですらなく、
時代や場所、状況によって変化する解釈に
応じて、どのように分類されるかが決まる。

秩序からの振れ幅を、犯罪と創造のいずれと呼ぶのかという
境界線は極めて曖昧であり、常に恣意的に決めるしかない。
An At a NOA 2016-11-14 “犯罪と創造”

犯罪と創造は多様性の同義語であり、一枚の硬貨の表裏のようなものです。
小坂井敏晶「社会心理学講義」p.269

要素の抽象特性の変化によって、同一性という集合の抽象特性も
変化を促される。
これが起きない集合は熱的死と呼べる状態である。
抽象特性の変化が大きすぎると集合は瓦解し、小さすぎると
集合は壊死する。
An At a NOA 2017-06-10 “技術の道徳化” 

秩序を秩序のままに取っておきたいという思いと、完全な固定化
という最大の挑戦の間で、生命は常に矛盾を抱えている。
An At a NOA 2016-08-09 “ホメオスタシス” 

こういった議論を放棄して、責任を置き去りにした
表現の自由を認めたり、表現規制を進めたりする
結論に短絡するのは簡単だが、それは人間が人間で
なくなることにつながるように思われる。

模倣犯

強制わいせつ容疑の男「漫画を真似」　県警、作者に異例の申し入れ

漫画に影響された模倣犯について、警察から当該漫画の
作者に注意喚起を促すよう申し入れがあったという話。
作者がtwitterで言うには、もっと和やかな雰囲気
だったようだが、それでも表現規制につながると
危惧する指摘をみかける。

表現の自由の裏側には表現の責任が伴って然るべき
だと思うのだが、「表現規制につながる」という
指摘では自由の話ばかりがされ、責任の話には
ほとんど触れられないように感じる。
このあたり、どう考えているのだろうか。

表現の自由に限らず、あらゆる自由には責任が伴う。
より精確には、責任を問いたいがために自由が想定される。
裏に、問う必要がない責任については、自由が想定されない、
という命題もまた、この一件の報道を見ていると真だと感じられる。
An At a NOA 2016-09-05 “表現の自由”

例えば、シャルリー・エブドの風刺画と今回の漫画を
比較したとき、何がよくて何がダメかという一線を、
整合するかたちで引けるだろうか。
表現者も作品も閲覧者のいずれも、それ単体で存在
することはなく、これらの関係が成立することで
はじめて表現者や作品や閲覧者になるわけだから、
表現者の特性、作品の内容、閲覧者の範囲それぞれを
独立に規制することにはあまり意味がない。
このことを踏まえると、画一的かつ整合的に良し悪しを
規定することはあまりに困難であり、それは意識をもった
人間にとってcorrectであるのが難しいことを反映している
ように思う。

だからこそ、人間は必ずしもcorrectではない判断を
共有するために、rightというコンセンサスに基づく
基準を採用するのだろう。
An At a NOA 2016-11-15 “correctであり続けるのは難しい”

「技術の道徳化」では、設計者（作者）は、技術（漫画）の
意図しない利用（模倣犯）を想定し、それに対策を講じるのが
よいとされる。
技術によって複製された抽象過程に対する責任の話を置き去り
にして技術を行使することは、ネットワークの発達によって
国家の影響が薄れていく時代には無理があるのだろう。

自由を謳歌したいのであれば、集団の巨大さに頼らず、
自らに責任を回収するのがよい。
An At a NOA 2017-05-12 “自由と集団”

築地と豊洲

最終的には豊洲に落ち着くことになるらしいが、
築地にするか豊洲にするかよりも考えなければ
いけないのは、今後の進め方をどうするかだ。

専門分化と効率化を進めた結果を掘り起こすと、
専門家が誠実であろうがなかろうが、検討や
調査をすべき事項は山のように増える。
その検討や調査を、既往の知見や専門家の判断に
基づいて省略することで効率化を達成しているの
だから当然だ。
そこに時間とお金をかけることは、専門分化と
効率化の両方を同時に低減することになる。

専門分化とは責任の外部化であり、住環境、食品、
医療等を専門家に任せることと、その安全性に対する
責任を専門家に負わせることは表裏一体であった。
何もかもが専門分化した世界では、人間は個としては
まったく不自由で、何かの専門家としてだけ自由を
手に入れることになってしまう。
それを理想とする考え方もあるだろうが、それは
やはり個の意識を消す方向に行ってしまうように思う。
An At a NOA 2017-05-12 “自由と集団”

物理的身体によって規定された個人の代わりに、
専門分化を通して「この自動運転車に乗った人」
のようなかたちで再編された「個人」を単位に
することによって、人類という集団全体の効率を
上げることが、近代の手法を突き詰めることで
得られる究極の形態なのかもしれない。

近代から抜け出すか、個の意識から抜け出すか。
押す方と引く方のどちらであれ、一方に振れるのは
寓話のような滑稽さを生み出すように思われる。
案外、現状のように、「安全だが安心でない」とか、
「税金の無駄遣い」とか言い合ったままでいるのが、
バランスが取れているのかもしれない。

技術の道徳化

ピーター＝ポール・フェルベーク「技術の道徳化」を読んだ。

一エンジニアとして技術と道徳の関係はとても興味深く、人間対技術、主体対客体、内部対外部といった近代的な対比構造を乗り越えて、技術によって媒介される生を、技術と同行していかに生きるかという問いとしての道徳論は刺激的だった。技術を礼賛するでもなく、技術脅威論に与するでもなく、技術に媒介されていることを認識し、その関係の在り方を探る中で、自由や責任を考えるというスタンスは、広く共有されるとよいと思う。

技術は、延長スルモノとしての人間を、育種することができるだけでなく、調教することもできる
ピーター＝ポール・フェルベーク「技術の道徳化」p.67

という話は、AlphaGoとの対戦を通じて柯潔の囲碁もまた変化したという話を彷彿とさせた。

出版時期を考えると致し方ないのだが、少し不満なのは、本書で中心的に取り上げられるポストヒューマニズム的視点が、確かに人間と技術を峻別し、人間の側だけで道徳が展開されるヒューマニズムを乗り越えているものの、人間と技術の区別が暗に前提されているように感じられる点である。元になった原稿が書かれた2000年代後半においては、両者の区別があっても、それらが相互作用するものと考えることで十分よい議論ができたとも言える。そしてそれはこれからも有効な議論になると思うが、2006年のジェフリー・ヒントンによるディープラーニングの研究をきっかけとした第三次AIブームとともに技術と道徳の関係はより複雑化しつつあり、第7章で述べられているような、人間と技術の区別すらあいまいになった領域の重要性が増していると感じられ、個人的にはこちらの方が興味がある。

絶対的な正というものは存在しないが、人間全体にとっての絶対的な正というものは存在しえ、それを追求する学問は倫理学と呼ばれる。
An At a NOA 2015-11-22 “論理と倫理”

という倫理学を、技術に媒介された人間や人間に媒介された技術という領域まで拡張することで、技術を道徳の枠組みに組み込んだのがポストヒューマニズムだとすれば、そこからさらに、技術に媒介された技術の道徳化は可能か、という次の段階の議論にも興味が出てくる。第7章の話題や自動運転車の事故の責任論はその領域に差し掛かっている。

技術とは、抽象過程を複製することであり、複製された抽象過程は道具、あるいはこれもまた技術と呼ばれる。その複製には完全さが求められ、不完全な複製は新しい抽象過程を生み出す芸術とみなされることが多かった。そのため、技術によって複製された抽象過程の特性は固定化していることがほとんどで、発散の要素をもつ人間の心理的身体という抽象過程と対比されてきた。おそらく、その固定的な性質は、ある特定の理由に基づいて複製がなされるからだろう。新しい理由によって次々とつなぎ替えを起こすことで投機的短絡を生じる心理的身体との差が、どうしても生まれてしまう。ディープラーニングが画期的だったのは、複製過程にあえて理由を埋め込まないことで、発散の余地を与えたことにある。その発散は未だ心理的身体による解釈に依存していると思うが、抽象過程自体に発散の性質を実装できれば、技術による技術のための道徳が生まれ得る。そう考えると、道徳というのは、抽象過程の破綻を避けるための、発散する特性を制御する枠組みだと言える。これまでは心理的身体だけが唯一の発散を有する抽象過程とみなされることで道徳の対象となってきた。しかし、あらゆる抽象過程が相互に通信していることを思えば、複製された抽象過程としての技術に媒介されているという視点も必要であるし、心理的身体以外にも発散する可能性があるのであれば、その発散もまた道徳の対象になると考える必要がある。

倫理的実体は抽象過程であり、同一の入力データに対して同一のデータを出力する抽象過程はその同一性をベースに集合を形成し、その集合もまた抽象過程となる。集合のある要素の抽象特性が変化したとき、同一性を満たすような変化か否かが従属化の様式として機能する。要素の抽象特性の変化によって、同一性という集合の抽象特性も変化を促される。これが起きない集合は熱的死と呼べる状態である。抽象特性の変化が大きすぎると集合は瓦解し、小さすぎると集合は壊死する。この固定化と発散の狭間において、如何に変化し、変化しないでいるかを調整するのが自己実践になる。

秩序を秩序のままに取っておきたいという思いと、完全な固定化という最大の挑戦の間で、生命は常に矛盾を抱えている。
An At a NOA 2016-08-09 “ホメオスタシス”

目的論は、上記のような過程を、充足理由律に従う存在が眺めたときに、不可避的に綴ろうとしてしまう物語である。

発散という変化可能性を有する抽象過程は、人間と技術の区別なく、道徳というバランサを必要とするのだろう。バランスを探れることが自由であるということであり、バランスを崩すような変化を引き起こした抽象過程には責任が生じる。こうした自由や責任もまた、充足理由律のついでに生じる概念であるから、こう語ること自体が人間を人間として区別してしまうことにつながるのかもしれないが、構文糖衣としては上手く機能してくれるように思う。道徳がバランサであるなら、道徳論はゆっくり変化していかなければバランスを失う一方で、変化しなければ心理的身体は壊死するだろう。どちらにも振れることなく、少しずつでも議論を進めたい。

AIの責任

AIの操作する自動運転車の事故の責任について
何度か書いた。

もちろん、最初のうちは開発者や使用者の個人としての
責任が取り沙汰されるだろうが、最終的には

• 自然災害とみなす
• AIを法人化する

の２つが選択肢として残ると思われる。

このような人工知能が引き起こす人間にとっての不利益は、
いつか自然災害として扱われるようになるだろう。
An At a NOA 2016-04-07 “自然災害”

株式会社と同じようにAIが法人になる未来も、
選択肢としてはあるだろう。
An At a NOA 2017-05-08 “法人としてのAI” 

前者は理由付けを諦める代わりに、意識のカテゴリを
人間が専有するという選択肢であり、後者は逆に、
あくまで理由付けにこだわる代わりに、AIを意識の
カテゴリに招き入れるという選択肢である。

AIを法人化したときには、AIは自身の行動によって得た
利益の一部を税金や保険料として納め、それが事故に
対する賠償金に充てられる。
AIが得る利益を払うのは使用者であるから、この構造は
結局のところ、事故の責任を使用者全体に拡げたもの
ともみなせる。
これは、「この商品を買った人」と同じように、

2以上の個人から採取したデータが1つのかたまりとして振る舞う
An At a NOA 2015-03-19 “ポストモダンの思想的根拠”

ように、各個人から「この自動運転車に乗った」という
性質だけを抜き出して再集合させることで立ち上げられた、
新しい個を責任主体とみなすということだ。
これによって、AIはあくまで運転するのみで責任は負わず、
責任は人間に薄く分布するという物語が出来上がる。

保険はそもそもそういうものだったわけだが、運転手が
意識をもっているために責任主体となれるので、保険
加入者全体は単に金銭的な負担を分散させるためと
捉えることができた。
それに対し、法人化したAIの責任という文脈においては、
金銭的にだけでなく道徳的にも役割を分散させている
とみなすこともできる。
これによって意識のカテゴリにAIを招き入れることなく
理由付けにこだわれるのであれば、このストーリィも
あながち一笑に付せるものではないように思う。

現状では、Amazonにおける「この商品を買った人」は、
物理的身体をもたず、ただ亡霊のように買い物を続ける
だけであるが、「この自動運転車に乗った人」は、車体と
運転AIという物理的身体を手に入れ、休みなく公道を走る。
人工知能という技術によって生じるのは物理的身体の複製と
心理的身体の分散であり、心理的身体は人間だけが有する、
という解釈だ。
しかし、分散した心理的身体を再集合させることによって
できた「この自動運転車に乗った人」という心理的身体は、
一体「誰」なのだろうか。