読者です 読者をやめる 読者になる 読者になる

宇宙スープ

Once upon a time, the Universe expanded from an extremely dense and hot soup

人工知能の限界の考察(2)

metheglin.hatenablog.com

人工知能は人間の脳にどこまで近づけるか

現在の人工知能は確率統計的手法をベースにした学習モデルであり、それによる弱点がいくつか指摘され始めていることを前回書いた。
そうは言っても超優秀な人類のこと。脳という学習マシンのお手本がある以上どこまでもこれを研究し、コンピュータでエミュレートさせてしまうと思う。

実際ブルーブレインという、脳の構造を徹底的に調べ上げるプロジェクトがあり、ディープラーニングの大成功の後さらに注目されている。 https://ja.wikipedia.org/wiki/Blue_Brain

次は、脳科学に基づいた研究によって、人間の助けとなるような自立性のある知性が生まれるかという問題について考えたい。

大胆な予想を書くと、ブルーブレインのような野心的プロジェクトが成功を修めたとしても、人工知能は一向に人間の空気を読めるようにならず、わりとあっさり行き詰まると思う。

そう考える理由は、人工知能は人間と同じ”肉体”を持たないから。

共感する、空気を読める、偉業を成し遂げる人間

『Google フォト』が黒人2人の写真を “ゴリラ” と自動認識して物議 / Google「大変申し訳ありませんでした」と陳謝

個人的に非常に興味深かった昨年のニュース。

Googleは知能が生み出した新手の”バグ”とどう対峙するのだろう?ゴリラを除外しても、オランウータンは?ドブネズミは?ゴミムシは?と考えるとキリがない。年頃の女の子が”白鵬”とタグ付けされれば命にかかわる。

どんなタグ付けをされると人間が嫌がるか?は、それ自体ディープラーニングを使えば学習させることができるだろう。けど出現した問題自体をディープラーニングさせればいいという考えは机上の空論の気配があると思う。なぜなら前回も書いたようにディープラーニングは統計解析をベースに成り立つ学習技法なので大量のデータの存在が前提となるから。どんなタグ付けをされると人間が嫌がるか?というデータを大量に集めることができるか?という問題に置き換わる。

現実にはデータを集めようがないものばかりでその中で空気を読んでいかないといけない。なにからなにまで大量のデータを提示しないといけない限りはまた壁にぶちあたってしまう。

そもそも空気を読める必要があるのか?という問題はある。
自分の考えでは、空気を読めない限りは人の役に立つものとしての自立性のある人工知能にはなりえないと思う。

たとえば、フェルマーの最終定理を証明することと、1億桁のランダムな数字を暗記することでは、比較するようなものではないがおそらく後者のほうが難しい。
けど人間にとっては、フェルマーの最終定理を証明することのほうが無意味な暗記よりもはるかに価値がある。
しかし人工知能はどうやって後者よりも前者のほうに人生を賭ける価値があると認識できるのだろう?

どうやってフェルマーの最終定理を人生のテーマに選択できるのか、について自分が出した答えは、赤ちゃんに微笑みかけると微笑み返す、という人間の根源的な情動に行き着く。
結局私たちは他人と共感せよと書き換え不能にプログラムされた1つのマシンなのだと思う。だからどんな偉業を成し遂げる人もその行動の先に家族、友人、上司、師匠、神など他人の感情をイメージできるからこそ無意味な暗記ではなく、フェルマーの最終定理を選択することができる。
空気を読むことも、意味のある人生のテーマを選択できることも、共感あればこそではないか。これが人間の行動のエネルギー源となっているのではないか。

他人の感情をイメージできないと空気を読むことはできないし、空気を読むことができなければ人工知能はいつまで経っても人の指示通りに動き、その結果を人間が判断する、という枠組みから逃れることはできない。人間にとって価値のあるテーマを自ら目標設定できないということだ。

自ら目標設定できないという問題は第2次フレーム問題として人工知能の前に立ちはだかると予想している。

近年空気を読まないことを美徳とする潮流があるけど、人工知能の登場によって空気を読む力はすごい霊的能力として再認識される気がする。

なぜ肉体が必要か

でも多くの人は、「人間が他人の感情をもとに幸福感や嫌悪感を得られる動物だとしたら、人工知能もそのようにプログラムすればいいのではないか?」と思うかもしれない。

自分はそう単純ではないと思っている。

幸福感が最大化されるような行動を選ぶように人工知能を設計すると、はじめはうまく動くように見えるかもしれないが、そのうち何もしなくても幸福感を得られるショートカットを人工知能それ自体によって発見され、自らのプログラムを自ら書き換え、ただただ幸福を感じ続けるだけの無限ループマシンに成り下がる。

人間に置き換えれば、クスリによって幸福感を得ようというのと似ている。
人間は脳のニューラルネットワークを意図的に書き換えることはできないが、現状の人工知能はデジタル回路上で動くのでプログラムの書き換えは容易にできてしまう。デジタル回路上なのでクスリの副作用もない。
人間がいかにこれを防ごうと試みても、人工知能が賢ければ賢いほど、ゴールが明確な分野においては人工知能有利なゲームにしかならない。

だから肉体が必要だと思う。
簡単に書き換えできない物理的な仕組みの上に幸福感の揺らぎが起こることで、宇宙の神秘を解き明かそうという意欲が生まれるというのが自分の考え。

どこまでが脳か?

ブルーブレインが脳のデジタル再現に成功したとすると、その次は「どこまでが脳か?」という問題にぶち当たると思っている。

自分の予想では、脳の再現に成功したはずなのに一向に空気を読めるようにならないシステムを見て、随時脳にインプットされてくるデータがやりだまに上がると思う。脳の再現の次は入力信号の再現だ、と。
そうすると、脳から神経が伸び、神経は化学物質を通じて体全体の器官と通じていることに気付く。つまり肉体が必要であることに気付く。

そう考えていくと、実は、肉体がソフトウェアで脳がハードウェアなのだという考え方ができる。脳は深層学習を処理するハードにすぎない。同じ脳でも、どのように考えるかを左右するのは入力信号、すなわち肉体であるということ。

ちなみに、ソマティックマーカーという仮説がある。まさに身体反応が脳の状況判断の基になっているという仮説である。個人的にこういう説にすごくわくわくさせられるので支持している。

人工知能は人間にどこまで近づけるか?

はじめの問いに戻ると、人間の脳を模倣することはできても人間の空気を読むことはできない。空気を読めなければ偉業を達成することはできない。なぜなら共感する能力がないから。人間と共感する能力を得るためには人間と同等の肉体を持つ必要がある。今の人工知能アーキテクチャの延長ではそれはしばらくの間無理。だと思う。

とは言え、来るシンギュラリティを前に今の技術の延長線上に知性とよぶべき自立性のある人工知能が現れる可能性もあると思っている。それは人間と似ても似つかない存在として。次の機会に書きたい。