本書は、NHKドキュメンタリー『人間ってナンだ？超AI入門』の特別編として、『世界の知性が語るパラダイム転換』というタイトルで放送された、マックス・テグマーク（宇宙物理学）、ウェンデル・ウォラック（倫理学）、ダニエル・デネット（哲学）、ケヴィン・ケリー（編集学）という4人の世界的知性のインタビューを一冊にまとめたものである。
我々は今、AI（人工知能）の登場によって、「人間とは何か？」という難問を突きつけられている。日本では、「AIが人間の仕事を奪うのか？」という問題ばかりが取り上げられるが、AIが人間に近づけば近づくほど、人間を凌駕すればするほど、これまで我々が人間の根幹をなすと信じてきたものが見直しを迫られ、「人間とは何か？」という古くて新しい哲学的な問題がクローズアップされてくる。
そして、その根幹にあるのは、「心とは何か？」「意識とは何か？」という根源的な問いである。
本書の最初に登場する宇宙物理学者でAI研究者のマックス・テグマーク（注1）も、科学の2大ミステリーは、「地球外の宇宙」と「頭の中の宇宙」だと言っている。そして、世界はすべて数式で表現できるという彼は、人類に残された最大の謎は「意識」と「知能」だとして、自身の研究対象を宇宙から脳に大きくシフトした。
彼に言わせれば、「肉体がなければ知性はない」というのは、炭素至上主義にも似た浅はかな考えであり、意識や知性は有機生命体にのみ存在するミステリアスなものだと考える者や、意識の説明に量子効果を利用する理論（量子脳理論）を唱える科学者たちを厳しく批判している。
テグマークは、意識とは単に情報処理の一種に過ぎないと考えている。人生の意味や目的は体験によってのみ得られる主観的なものであり、意識とは単にそうした「主観的体験」の集合に過ぎないというのである。従って、彼によれば、ロボットに人工意識を持たせることは可能だし、「意識のあるAI」と「意識のないAI」を人為的に作り分けることも可能なのである。
こうした認識に基づいて、Skypeの共同創業者ジャーン・タリンらと、AIの安全性について研究する非営利組織Future of Life Institute（FLI）を立ち上げ、自律型兵器の開発禁止を呼び掛ける公開書簡を発表している。このFLIには、テスラのイーロン・マスク、故スティーブン・ホーキンス博士、AI研究のスチュワート・ラッセル教授といった著名人たちも顧問として名を連ねている。
また、シリコンバレー文化に大きな影響を与えてきた「伝説の編集者」ケビン・ケリー（注2）は、AIには独自の「思考」があり、その論理は人間の創造性では測れない新たなリアリティーを生むと考えている。意識とは何かは分かっていないし、その明確な定義も存在しないが、意識には様々な程度、様々な種類があり、今後、AIによって様々な新しいタイプの意識が発明されるだろうとしている。
更に、哲学者のダニエル・デネット（注3）は、近代を築いてきた文明の背後にある、まず「心ありき」という精神と肉体の心身二元論を「デカルトの重力」と批判し、「進化論の生みの親」ダーウィンや「コンピューターの父」チューリングが直面してきた、自然選択による「設計なき適応」「理解力なき有能性」こそが、知性や心を生み出しているのだと考える。
そして、想像力や創造力は人間にあって他の動物にはない高度な能力であり、肉体ではなく脳にある情報こそが人間を創造的にしているのだから、原理上は創造力を持つAIを作ることは可能だと考える。
他方で、AIの意識は人間のそれとは根本的に異なるものだと言う。つまり、人間と同じ責任の主体になるためには、自律性、主体性を持つことが必要であり、その前提として文化や責任の共有とそこから生まれる信用がなければならないと考えているのである。
こうしたAIが人間との関係性において意識を持っているように見せかけることはできるが、本質的な意味を理解できないAIの意識が人間と同じということはあり得ず、そうした意味で、意識を単なる情報処理の一環と捉え、AIも容易に意識を持ち得るとするテグマークとは一線を画している。
このように、我々はまだ自分が何者かを知らない。心の仕組みも分かっていないし、何が我々を他とは違う特別な存在にしているのかも分かっていない。「人間とは何か？」についての定義が見つかっている訳でもない。 我々はAIを作る上で、自分たちが何者であるかを定義し直さなければならないのである。
本書の編著者であるNHKプロデューサーの丸山俊一は、AIの登場による人間 vs 機械という二元論を超える第三の道の模索が、デカルトの心身二元論或いは心脳二元論を超える新たな道を開く可能性があるとしている。
評者自身も、身体 vs 脳、脳 vs 心という二項対立或いはデジタルな二分法的理解が、我々を真実から遠ざけているように思っている。また、だからといって今から心身一元論や汎心論に戻るのでもない、身体と脳と心のフィードバックループのようなものを、ひとつの全体として捉える必要があるのではないかと考えている。
これとの関連で言うと、ジェームス・キャメロン監修映画『アニータ』の原作で『銃夢』という長編漫画がある。そこに出てくるのは、全身が機械で脳だけが生身のサイボーグと全身が生身で脳だけがチップに置き換えられた「人間」との対比である。
主人公の少女ガリィ（アニータ）は、最初は前者だったのだが、最後には脳もチップに置き換えられ、完全に機械の体になってしまう。そして、自分とは何なのかについて悩み続けるのだが、そこにある主題は、終始一貫して「人間とは何か？」である。
「脳だけ機械に置き換えられた「人間」と体だけ機械に置き換えられた「人間」は、どちらがより人間的なのか？」「自由を放棄した「人間」と自由を追い求める機械のどちらがより人間的なのか？」など、考えさせられる様々な場面が登場するが、結局、悩んだ末にガリィが出した答えはとてもシンプルで、「悩む前に今を生きる」ということであった。
我々は何者になりたいのかを自分自身で決めなければならない。良い人間の条件とは、良い存在とは何か。これこそが、AI以降の世界を生きる我々の務めなのである。 AIはこの問いに答えるプロセスの一助になるが、我々に代わってこのプロセスを担ってくれる訳ではない。
テグマークは、「AIによって人間はどうなるのだろうか？」という問いは無意味であり、未来は我々が自らの手で作るものだと言っている。彼が言うように、今、我々に問われているのは、「どうなるのか？」ではなく、「どうなりたいか？」なのである。
（注1）マックス・テグマーク（1967年〜）は、米国で研究活動を行っている、スウェーデン出身の理論物理学者で、専門は宇宙論、万物の理論に関する研究。スウェーデン王立工科大学を卒業後、カリフォルニア大学バークレー校で博士号取得。現在、マサチューセッツ工科大学（MIT）物理学教授。これまでに200を超える論文を発表し、その内14は被引用回数が500回を超え、内5つは1000回を超えている。特に、情報理論を用いた高度なデータ解析で知られ、全天の広い範囲を対象に銀河分布を調べる大規模プロジェクト、スローン・デジタル・スカイサーベイ（SDSS）での功績が有名。この他、量子力学の基本問題への貢献でも知られ、現在では宇宙の未開拓領域を探索するプロジェクトにも関わっている。（Wikipedia等より抜粋）
（注2）ケビン・ケリー（1952年〜）は『Wired』の創刊編集長で『全地球レビュー』の元編集者兼出版責任者。作家、写真家、環境保護活動家でもあり、アジアやデジタル文化を探求している。創設に関わったNGOにはAll Species Foundationがある他、未来学の専門家としてスティーヴン・スピルバーグ監督作品『マイノリティ・リポート』を監修している。（Wikipedia等より抜粋）
（注3）ダニエル・デネット（1942年〜）は、米国の哲学者、認知科学者。心の哲学、科学哲学、生物学の哲学などが専門であり、特に進化生物学・認知科学と交差する領域を研究対象としている。ハーバード大学哲学科卒業、オックスフォード大学院にて博士号を取得。現在、タフツ大学の認知研究センターの共同ディレクター、オースティン・B・フレッチャー哲学教授。無神論者かつ世俗主義者であり、リチャード・ドーキンス、サム・ハリス、クリストファー・ヒッチェンズと共に、「新無神論の4人の騎手」の一人に数えられている。（Wikipedia等より抜粋）
