人工知能（artificial intelligence）という言葉は、二重の問題を投げかけている。知能を人工的に再構築することができるのか、という問いと、そもそも知能とは一体何なのか、という問いである。人間の知能の全容がまだ解明されていないのにもかかわらず、その機械的な再構築を試みようとする過程を通して、逆に人間の知能とは何かということが浮き彫りになってきている。
本書は、MIT PressのEssential Knowledgeシリーズの一冊として書かれた。このシリーズは、表面的な説明や意見が溢れる時代において、非専門家にとっても本質的で批評的な視座を与えることを目指している。本書は、現代社会が到達した、もしくは近い将来到達するであろうテクノロジーの水準の内実に光を当てながら、機械的な知能の条件から人間の知能の本質を逆照射するような一連の思考実験を提供する。そうして著者のシャナハンは、予言を慎重に回避しながら、問題と可能性が地続きになっている思考の範囲を展開する。この過程で読者は技術的な動向に関する情報を得るだけではなく、知能、人間、そして生命とは何か、という問いを何度も掘り起こされる。本書はだから、人工知能を巡るさまざまなトレンドや議論の情報で頭が一杯になるたびに、定期的に読み返すことで問題の本質を捉え直すための思考のエクササイズのために活用できるだろう。
人工知能についての書籍としての本書の最大の特徴を挙げるとすれば、それはやはり著者のマレー・シャナハンが認知ロボット工学者であることに尽きるだろう。本書では何度も「身体化（embodiment）」という概念が繰り返される。そこには物質的なロボット的身体も、デジタルなソフトウェア上の身体も含まれる。特に全脳エミュレーションという一見無謀なまでに壮大なプロジェクトに関するシャナハンの丁寧で冷静な記述を読んでいると、「私」という意識の作動を支えている生命的な基質の少なくない部分が機械によって代替可能であるように思えてくるが、同時に、人工的な知的システムがいかに膨大な量の計算的操作や動機づけの実装を必要とするかということにも気づかされる。逆説的に、それが自然淘汰という進化のプロセスを経た結果だと考えれば、人間という知的生命体のデザインがいかに洗練されているかという気づきも増幅される。そのうえで、生物学な制約に起因する苦痛という動機の源泉を持てない人工知能を擬人的に認識することの過ちも浮き彫りになる。それではいったい私たちは何のために人工知能を必要としているのだろうか？
当然、技術の必要性や不要論は歴史的にいつも後づけで語られる。歴史というものを大局的にしか捉えられないのであれば、あらゆる人間の連関によって作動する全社会システムが必要とするから技術は生まれてきた、としかいいようがない。その起源を問うことは、不可能ではないとしても、非常に膨大で複雑な因果関係を読み解かなければならない。デジタル・コンピュータに限定して敢えてひどくおおざっぱな整理をしてみれば、その基礎を成したチューリング、フォン・ノイマン、ゲーデル、チャーチといった数学者やアインシュタイン、ハイゼンベルグ、シラードといった物理学者らの革新的な研究成果と第二次世界大戦という未曾有の戦争が生み出した社会的要請が結合し、敵軍の暗号解読や原子爆弾の開発といった政治的目的の手段として、歴史的な加速を得た。
その同じ技術は今日、軍事目的以外の動機によっても発展しているが、完全に独立はしておらず、民間と軍事は時にゆるやかに、時に明示的に共進化している。これは安易に単純化できない現代の人間社会の複雑さのひとつだ。
生物学的制約下にある人間の知性に依存する人類社会が、こうした未解決の多くの問題を抱えていることを、現代を生きる私たちは誰でも知っている。そのうちの一つとしては例えば、戦争に帰結する国際社会の非対称性が挙げられる。20世紀の国際政治の負の遺産は今も「テロとの戦争」という泥濘を生成し続けており、その根本的な解決に向けた包摂的な議論は短期的な軍事解決と排外主義の熱気によって歴史の場外に押し出されている。DAESHやアルカイダといった原理主義的過激派は無から生まれたのではなく、欧米の戦勝国の歴史的な暴力によっても育まれてきたことを知っていても、具体的にどのように暴力の連鎖を断ち切ればいいのかという解決に至れないのであれば、それは人間社会全体の知性の欠乏を実証するだろう。このような巨視的な「苦痛」の解決のために、汎用人工知能および超知能を活用できるだろうか。より身近なレベルにおいて、私たちが個人としてよりよく他者と理解しあい、友情を育み、恋をして、創造活動を営み、家族をつくるために、人工知能を設計することができるだろうか。
シャナハンはJournal of Consciousness Studies 誌に「シンギュラリティの前の悟り（Satori before Singularity）」という、短いが興味深い論文を寄稿している。そこでは汎用人工知能から導かれる超知能の特性として、post-reflective という形容詞が登場する。
進化の過程で人間の知性は言語という観察結果を記述する抽象的思考の道具を獲得したが、それは身体と完全に独立した機能ではなく、むしろ身体と有機的にカップリングして作動するシステムである。抽象化の能力は反省（reflection）という、事象を再帰的に検証する行為を通して論理的な手続きを構築することを可能にしている。これは人間のような複雑な神経ネットワークを持たない前・反省的（pre-reflective）な生物にはない特徴である。
言語は思考の過程と結果を、生物学的な寿命を超える時間尺度で外部記憶化することを可能にし、そのことによって個体の知見が社会的に共有されうる。それと同時に、人間には言語的知性を獲得する以前の生物学的な摂理も備わっており、神経ネットワークで伝播される無意識の情動や意識上の感情といった生命的な情報によっても駆動される。
しかし、そもそもそういった生物学的な苦痛と快楽の源泉という反省への動機づけがない知能として人工的な超知能が開花すれば、それは反省を要さず、もはや人間のように生命的な自己保存や自己拡張という動機づけを持たない、仏教でいうところの「悟り」と似た状態にある知能の形として構想することも可能なのではないか。
シャナハンはこの論文のなかで、あくまで参考概念として、仏教における弥勒菩薩（Maitreya）、つまり未来において仏教の教えが忘却された時点において現世を終焉させ、人々を救済する存在を脚注で引いている。当然、超知能と未来仏を接続する意図は全くないと慎重に断っているが、このように私たちとは全く別の動機によって駆動される存在について考えることは、知性の多様な可能性の一形態にすぎない私たちの実存的限界について考えることにつながることは確かだろう。
実際、情報技術産業で活動をしていると、「エモーション」や「マインドフルネス」という言葉が重宝される場面に遭遇することが多い。情報技術もインターネットとスマートフォンが全世界に普及する時代に入ってある程度成熟してきており、その新奇性に注目が集まるフェーズから、いかに人間性と整合するように設計できるかという段階に入ってきている。その過程で、比較的定量化が容易な目標設定に拠ってきた工学の領域が、いよいよ人間的な価値を模索しはじめるようになってきたとも言える。私も先日、日本人工知能学会の研究会で行った基調講演の中で、人間と機械のコミュニケーションを扱うサイバネティクスという思考の体系に関する歴史と現代的価値の説明を要請された。機械学習の研究者たちも、技術的な洗練と効率性の向上から、社会的な意味や影響を研究と実践の射程範囲に含めようとしている。
人工知能はアメリカではテスラモーターズやSpaceXのCEOであるイーロン・マスクや、AIrbnbやDropboxに初期投資を行ってきたベンチャーキャピタルのYコンビネーターなどが、非営利の人工知能研究組織OpenAIの設立のために約1000億円を投じている。これは端的にGoogleやFacebookといった巨大な資本を持つ企業や政府によって人工知能技術が独占されないように、研究成果をすべてオープンソースにして個人でもベンチャー企業でも使えるようにするということを目的としている。
すでにオープンソースの機械学習のフレームワークが公開されているが、OpenAIのような特定の営利企業の目的に追従する必要のない独立した組織が活性化すれば、参入障壁が大幅に低減され、より多くの非専門家が人工知能技術の人間的な活用に向けた実効的な議論に、言語だけではなく実際のコードをもって参加することができる。その土壌が整えば、本書の著者であるシャナハンが先述の論文の中で奇しくも仏教に触れていることからも見えるように、日本文化固有の発想や感性が革新的な情報技術や人工知能技術のかたちで結実する可能性も増すだろう。
人工知能を考えることは、すでに私たちの生活に浸透しているさまざまな情報技術を観察することからも可能だ。私たちのネット上の社会生活を支える現行のウェブサービスやアプリの多くの機能が、人工知能が依拠する機械学習を用いている。本書で展開される未知の知性の創発に向けた知的冒険の開始点はすでに私たちの生活のなかに散りばめられている。監訳者としては、人工知能に代表される現代の情報技術に対して危惧の念を抱くのではなく、むしろ積極的にそのよりよい更新へと読者の想像力が刺激され、専門家以外の堅実な議論が活性化することを願う。
本書の翻訳はヨーズン・チェンとパトリック・チェンによって行われ、私ドミニク・チェンは監訳を担当した。訳者の二人も私も人工知能や機械学習の専門家ではない。しかし、私はサイバネティクスの系譜に属する情報学（informatics）研究とソフトウェア産業に携わるものとして、概念的にも実践的にも学習すること、そして自分の子どもの世代が主体的に関われることに多大な関心を寄せている。本書に翻訳の不備があれば私が一身に責任を負うが、そもそも非専門家が翻訳を行うことの謗りも免れないかもしれない。しかし、情報社会に生きる私たちにとってこれほど重要な問題について、非専門家が議論に参加することも肝要であると考え、無知を晒す恥を忍んで、本書を日本の読者に届けたいと考えた。
2015年12月 ドミニク・チェン
※本書の刊行記念イベントをNTTインターコミュニケーションセンターにて2月11日（木・祝）14:00より開催いたします：
スペシャル・トーク「シンギュラリティ：人工知能から超知能へ」
出演：ドミニク・チェン（本書監訳者、情報学研究者）、岡瑞起（ウェブ・サイエンス／筑波大学准教授）、塚田有那（編集者／キュレーター）
