人工知能
答えを与えるもの

『脳をコンピュータとみなすことは、脳、人間の知性、あるいは個人的な自己についての実際の知識とは何の関係もない。それは現代的なメタファーなのだ。」人間とマシンの間にある克服しがたい相違についてペーター・グラーザーの​エッセイ

ペーター・グラーザー

1997年、イギリスのロボット工学者ケヴィン・ワーウィックは、著書「March of the Machines」の冒頭で暗い未来像を描いた。 ワーウィックは、人類がすでに21世紀半ばにはネットワーク化された人工知能（AI）と優秀なロボットに支配されることになると考えている。人間はロボットにとって、せいぜいシステムにわずかな混乱をもたらす程度の存在にしかならないだろう、と。

祖先が猿であったことが明らかになった時に人類が恥ずかしく思ったように、人類によって作られたことをマシンが恥じる日が、やがて来るのだろうか。人工知能研究のアメリカ人パイオニア、エドワード・ファイゲンバウムは、1980年代に、未来の図書館で本がお互いにコミュニケーションし合い、知識を自分で増やしていく様子を描いている。ファイゲンバウムの同僚であるマーヴィン・ミンスキーは「もしかしたら、彼らは私たちをペットとして飼ってくれるかもしれない」とコメントしている。ミンスキーは1956年にニュー・ハンプシャーのダートマス大学で開催された会議の共催者であった。「人工知能」という概念が初めて使われたのが、この会議においてである。

コンピュータ化された知能の拡大には、センセーショナルな期待が寄せられた。電子頭脳に関するあらゆる問題が解決する日は遠くない、と。こうした期待のほとんどは裏切られたか、あるいは何十年も経ってからようやく、それもチェスやパターン認識というごく限られた分野で現実のものとなったに過ぎない。しかし、ここ数年の技術進歩は新たな動きをもたらしている。新たなデータ保存技術の誕生、スーパーコンピュータの性能向上、膨大な量のデータ処理のための新たなデータベースコンセプトの誕生、インターネット関連の大企業による巨額投資、さらには「アルゴリズム面での強み」を駆使して世界制覇をめざす国家間競争などが、人工知能に対する以前の不安感をも再び呼び覚ましているのだ。

2014年5月、イギリスの「インディペンデント」紙に4名の著名な科学者による寄稿が掲載された。ノーベル物理学賞受賞者フランク・ウィルチェック、宇宙物理学者マックス・テグマーク、コンピュータ科学者ステュワート・ラッセル、そして世界でおそらく最も有名な物理学者スティーブン・ホーキングが、インテリジェントなマシンを単なるSFで片付けてしまうことに対し警告を発したのである。「人工知能の活用に成功することは、人類史上最大の出来事になるはずだ。しかし、人工知能に伴うリスクを避けるための方法を私たちが学ばない限り、それは残念ながら人類史の最後を飾る出来事ともなりうる」。

人類は絶滅する？

人工知能の研究を担っているのは主に男性である。男性の大仰な創造願望は、あるいはペニス羨望が裏返しの形、いわば出産羨望と呼べるようなものになって現れているものなのかもしれない。生命の誕生以降、約4億年の進化を通じて、人類という有機体の形態はその精巧さを高めてきた。人工知能の研究を支えているのは、その人類と肩を並べる存在をコンピュータで開発するにとどまらず、その存在を人類を凌駕するものとし、人間を猿と創造がもたらした最新の技術的頂点の中間物としての存在に貶めようとする、抑えがたい願望なのである。

このタイプのAIは「強いAI」と呼ばれる。この概念は、人間存在の全ての機能はコンピュータ化することが可能である、特に、人間の脳はコンピュータのように機能しているという前提に基づいている。暴走するマシンに対する警戒の焦点は、シンギュラリティだ。この瞬間を迎えれば、マシンは自律的に自己を改良できるようになり、マシンの性能は爆発的に拡大していくことになる。警戒の声は、こうしたハイパー・マシンは、一度起動すれば独自の自己意識を発展させていく、と警告する。インテリジェントな自己の誕生である。

わがままな物体が人類を絶滅させるかもしれない、という懸念の根は深い。しかしこの懸念は、不安感だけでなく、生命を持たない物体が、例えば魔法の力を借りて生命を獲得できるかもしれないという期待感ともつながっている。古代エジプト人は、ウシャブティと呼ばれる小さな像を死者と一緒に埋葬した。「答えを与えるもの」という意味のウシャブティは、あの世において死者に代わって様々な作業に従事するものとされていた。ここに、コンピュータというアイディアが史上初めて登場している。すなわち、答えを与え、あらゆる命令を実行する代理者、である。ウシャブティに書き込まれた指示は、現代のコンピュータプログラムのアルゴリズムに驚くほどよく似ている。

魔法の人形よ、我の言うことに耳を傾けよ
我に作業をせよとの命が
下ったならば．．
心得よ、汝が我に代わって
以下の作業をすべきとあの世の監督者より命じられたことを。
地に種を蒔き
運河を水で満たし
砂を運び．．

                最後はこう締めくくられている。

ここにおります私は、貴方様の命令に従います。

現代の私たちは、これを「対話指向のユーザーインターフェース」と呼ぶだろう。そして、魔法の言葉が粘土の人形に命を吹き込むと信じることは、迷信と呼ぶだろう。しかし、この迷信は現在に至るまで存在している。「強いAI」派は、コンピュータがいつの日か、何らかの方法で生きた意識を獲得すると確信している。この確信は、思考を特定の下地材に依存しない情報処理に縮小することは可能であるという仮説に基づいている。つまり、脳は必ずしも不可欠なものではなく、人間の精神も問題なくコンピュータにアップロードできる、ということだ。2016 年1月にこの世を去ったマーヴィン・ミンスキーにとって、人工知能とは死の裏をかこうとする試みだった。

機械的な自己という幻想

1965年、情報工学者ジョゼフ・ワイゼンバウムは、マサチューセッツ工科大学でELIZAというプログラムを書いた。人間と（筆談で）会話できるプログラムである。ワイゼンバウムはELIZAにクライアントと会話する心理療法士の役を演じさせた。「私の母の様子がおかしいんです」と人間が書き込む。「あなたのお母さんの様子は、どれくらい前からおかしいのですか？」とコンピュータは聞き返す。さて、マシンは命に目覚めたのだろうか？私たちに対して語りかけているのは何なのだろう？あたかもコンピュータの内部に人間の自己意識と区別がつかないほど似ている独自の自己意識が生まれているかのように感じさせるそれは、一体何なのだろう？

それまでのマシンは、「油圧低下」や「故障」といった無味乾燥なシグナルの形で意見を述べるだけだった。ワイゼンバウムは、ELIZAと話した人々が、このアルゴリズムで作られたマシンとあっという間に感情的な関係を結ぶことにショックを受ける。ワイゼンバウムの秘書が、ELIZAを試してみたときのことだ。秘書は、ELIZAと話を始めてそれほど経たないうちに、極めて私的なことを話すから、と言ってワイゼンバウムに席を外してくれるよう頼んだ。だがプログラマーから「私」と言うよう指示を受けているマシンが「私」と言っているからといって、マシンに実際に「私」があるわけではないのだ。

脳をコンピュータとみなすことは、脳、人間の知性、あるいは個人的な自己についての実際の知識とは何の関係もない。それは現代的なメタファーなのだ。はじめに人間は、人間は土から作られ、神がそれに心を吹き込んだのだ、と考えた。そのあと、体の中の「液体」の流れが、身体と精神の機能を決める、という考え方が広まった。16世紀になり、ばねと歯車で自動機構が作られると、フランスの哲学者デカルトをはじめとした著名な哲学者が、人間は複雑な機械であると考えるようになる。19世紀半ばには、ドイツの物理学者ヘルムホルツが、脳をテレグラフにたとえた。数学者ジョン・フォン・ノイマンは、人間の神経系の機能はデジタルであると説明し、当時の計算機の構成要素と人間の脳の構成要素に認められる共通点を次々と指摘した。だが、コンピュータのデータ保存機能をわずかでも連想させるようなデータベースを人間の脳に発見した者は、まだ誰もいない。

人工知能の研究者の中に、権力に飢えたスーパーインテリジェンスの登場を懸念する者はほとんどいない。「AIのコミュニティーは、世の中の人々を不安に陥れるようなものを開発することからは程遠いところにいます」と、AI関連会社Vicariousの共同創業者ディリープ・ジョージは力説する。「科学者である私たちは、世の中の人々にハリウッド映画と現実は違うことを説明する義務を負っているのです」。

マーク・ザッカーバーグやジェフ・ベゾスなどから資金5,000万米ドルを得ているVicarious社では、人間の脳の持つ認知システムのように機能するアルゴリズムの開発に取り組んでいる。極めて野心的な目標だ。現在、コンピュータで駆動している最大の人工ニューラルネットワークは、およそ10億の接続ポイントを持つ。これは数年前に可能だったものの1,000倍の規模である。ただこれでさえ、脳の組織に比べればその1m㎥に過ぎず、まだ取るに足らないレベルなのだ。CTで見れば、１ボクセル（ピクセルの３次元版）よりも小さいことになる。

人工知能にとっての中核的な問題は、世界の複合性だ。それにうまく対応するため、新生児には進化がもたらした潜在能力がすでに備わっている。五感、生き延びるために重要な反射能力が少し。そして、あるいは最も重要かもしれないもうひとつの能力、すなわち、高性能の学習メカニズムである。この学習メカニズムは、周辺世界によりよく適合できるよう、人間が素早く変化することを可能にする。おかげで、この周辺世界が遠い祖先が暮らしていた世界とは全く異なるものになっていても、人間は適応できるのだ。

それに対してコンピュータは、2まで数えることすらできない。コンピュータは0と1しか知らず、愚鈍さと速度をうまく混ぜ合わせ、さらにはいわゆるヒューリスティックのような規則も使い、高度な数学（キーワードはニューラルネットワーク）を駆使してなんとかしようと試みる。脳が人間の知能を駆動する仕組みの基礎を理解するためだけでも、おそらくは860億の全ニューロンの最新の状態と、その100兆の接続点、その接続点の様々な強度、それぞれの接続点に存在する1,000個超のタンパク質の状態を把握しなければならない。さらには、脳の瞬間的な活動のそれぞれが、システム全体の完全性にどのように寄与しているかを把握することも必要だ。

おまけに脳は、そのひとつひとつが唯一無二のものだ。それは、人間ひとりひとりが、それぞれ唯一無二のライフストーリーを持っているからである。