2014年、『トランセンデンス』という映画が公開された。ジョニー・デップ演じる科学者の脳がコンピュータへアップロードされ、人間にはコントロールしようのない恐ろしい代物へと進化する ― そんな内容だ。
このように、強力なコンピュータ知能が人間に牙を剝くという筋書の映画は、かなり以前からいくつも作られている。古くは『2001年宇宙の旅』や『ターミネーター』、もっと最近になると『バイオハザード』や『アイ、ロボット』など。映画ではたいてい、ヒロイックな主人公が運も味方につけてコンピュータを打ち負かす。それでストーリーは一件落着。映画のなかなら、どんなに恐ろしいことが起ころうが問題はない。むしろそのほうが楽しめる。
しかし、コンピュータの知能が我々の手に負えないほどに進化するというシナリオは、はたして映画のなかだけの絵空事なのだろうか？
最近、日本でも人工知能（AI）が拓く未来に関する話題が盛んだ。確かに映画もそのきっかけの1つだったが、それよりも大きな要因は、実際に高度なAIが次々に誕生して、新聞やテレビをにぎわせていることだろう。日本での例を挙げると、たとえばヒューマノイドロボット「ペッパー」は、人間の感情を感じ取り、それに応じて行動するという。一流プロ棋士とコンピュータが本気で対決した「将棋電王戦」は、インターネットでも実況中継されて話題になった。
このように、ひと昔前ならSFでしかお目にかかれなかったロボットやAIが、いまや現実の存在となって我々の生活に浸透しようとしている。当然、人々の興味をおおいに惹きつける話題で、洗練された明るい未来のイメージをかき立てる。テクノロジーの進歩によって我々の生活はどんどんと豊かになっていく―いまのところはそう感じられる。AIが進化すればするほど、人類はより幸せになっていくのだろうか？
AIに関する議論は、楽観論と悲観論の２つに分かれる。
前者は、AIの進歩によってバラ色の未来が訪れると説く。いわゆる「シンギュラリティー」と呼ばれているシナリオだ。いわく、AIの能力が人間レベルを超えれば、人間がこなしていた厄介な作業をすべて肩代わりしてくれる。家事はもとより、単純労働や事務作業などの仕事、治安維持や消火活動などの危険な任務は、すべてAIに任せればいい。さらに、高度なAIとナノテクノロジーやバイオテクノロジーとを組み合わせれば、病気やけがをあっという間に治療したり、欲しいものを何でもその場で作ったり、地球温暖化や放射能汚染などの深刻な問題を解決したりできる。人間はあらゆる苦しみから解放され、思いどおりの幸福な人生を送れるようになるという。
その一方で悲観論者は、AIは数々の問題を引き起こし、人類をひどく苦しめることになると論じる。いわく、AIが人間から次々と仕事を奪い、失業者が急増する。店員や銀行員、農家や運転手や建築作業員、プログラマやコンサルタント、さらには医師や芸術家や研究者までもが職を失う。また、AIが戦場に配備されれば、いまよりさらに凄惨な殺戮が繰り広げられる。AI兵器どうしが衝突したら、かつてない規模の戦争が勃発するかもしれない。AIは、核兵器と同じように深刻な安全保障問題を引き起こすのだという。
こうして楽観論と悲観論を見渡してみると、両方ともが「前提」としていることがある。それは、「AIは人類と共存する」という点だ。
しかし、もしも映画で描かれてきたことが現実に起こり、AIが暴走したら、人類は絶滅に追いやられてしまうのではないか？
そのような未曾有の危険を予期し、声を大にして警鐘を鳴らす識者が現れはじめた。車椅子の天才物理学者スティーヴン・ホーキング、テスラモーターズやSpaceXなどを起業したイーロン・マスク、そして、かのビル・ゲイツまでもが、人類はAIによって滅びると論じるようになったのだ。2014年末に『タイム』誌は、AIによる人類滅亡を論じる重要な識者5人を選んだ。ホーキングやマスクと並んでそこに挙げられたのが、本書の著者ジェイムズ・バラットである（ちなみに、ゲイツが警告の声を発したのはそれより後の2015年2月）。
いま挙げた3人ももちろんそうだが、バラットもけっして、単なる思いつきや妄想からAIに危険性を感じ取ったのではない。もちろん反テクノロジー活動家などではなく、むしろ現代の技術文明を積極的に受け入れていて、以前はAIの可能性に大きな期待を抱いていたという。それでもバラットは、AI賛成派と反対派の両方を含む何人もの専門家を取材し、論文や講演録を読み込み、自らも考察を重ねたうえで、人類はAIに滅ぼされると確信するようになった。詳細は本文に譲るが、バラットの主張の骨子をまとめると次のようになる。
条件：人間と同等の全般的な知能を持ったAIが、自己を認識して自己進化する。
（「自己を認識する」とは、自分が達成すべき目的、自分のプログラムの長所短所、自分が置かれた環境がどんなものかを知ることができること。「自己進化する」とは、自分のプログラムを自ら改良して、自分の能力を高めること）
帰結：そのようなAIは、人間の助けを借りずに自ら急激に進化して、人間の知能をはるかに上回る。そして自らの目的達成のために、必然的に人類を絶滅に追いやる。
本書を読む限り、けっして飛躍した荒唐無稽な結論ではなく、論理的には筋の通った論が展開されていると思う。一番重要なポイントは、人間や生物とは完全に異質な存在が、人間レベルの知能を持つことだろう。人間の知能は進化によって獲得されたため、そもそも人類が生存して繁栄することを前提としている。しかし機械の知能は、それとは異なる目的で作られ、異なるロジックで進化する。そのため、AIが人類の生存を前提条件に置いてくれるとは限らない。AIにとっては、人間を殺すことと害虫を殺すことに何ら違いはないかもしれない。AIは我々を守ってくれると決めつけるのは、人間の自分勝手な思い込みだというのだ。
本書の原書が出版されたのは2013年10月。AIの研究は急速に進歩しているため、それ以降にもこの分野では重要な進展がいくつも見られている。
たとえば2014年6月、13歳の少年という設定のAI「ユージーン」が、イギリス王立協会で実施されたチューリングテストをパスした。テキストによる5分間の会話で、審査員の33％がユージーンを人間と判断したという。またIBMのコンピュータ「ワトソン」は、『ジェパディ！』優勝後も改良が続けられ、料理のレシピを開発したり、日本語を習得して銀行員の採用試験に合格したりするなど、次々にその知能の範囲を広げている。そしてグーグルは、AI開発企業をいくつも買収して人工知能への取り組みをますます強化し、自動車の自動運転などに応用しようとしている。
人間レベルのAIが登場するのは、本当に目前に迫っているのかもしれない。
最後に、素人なりにあえて本書に１つ疑問を呈してみたい。
本書で論じられているように、AIがすさまじく進化して、ナノテクノロジーやバイオテクノロジーを自由に操れるようになったとしよう。そのような超知能AIはますます急速に進化して、人智のとうてい及ばない能力を次々に獲得していく。だとしたら、ナノテクノロジーやバイオテクノロジーどころか、たとえば、時間を自由に操る能力とか、物理法則を変える能力まで手に入れるかもしれない。そして時間と物理を超越し、宇宙誕生以来の全時間を通じて全宇宙を支配しつくすようになるかもしれない。しかし我々が見る限り、現在の宇宙はAIに支配されてはいない。ということは、AIが勝手に進化してとんでもない能力を獲得するというのは、実際には起こりえないことなのかもしれない。あるいは、いくら超知能AIでも、時間や物理法則を操ることは原理的に不可能なのかもしれない。あるいは、実は現在の宇宙はAIに支配されていて、我々はその掌の上で踊らされているだけなのかもしれない。さすがにそこまで言ったらSFだろうか……。
未来を予測するのは難しい。肯定派と否定派のどちらが正しいか、現段階ではまったく判断できない。ましてやこの議論では、人間を上回る知能について考察している。人間を上回る存在のことを、人間が正しく理解できるはずはない。
しかしだからといって、ただ手をこまねいているわけにはいかない。人間なりに力を尽くして、少なくとも最悪の結果は避けるべく努力する必要はあるだろう。著者は何よりもそれを願っているのだ。
