本書は、同著者による数学的原理に裏打ちされた傑作ファンタジィ『白と黒のとびら: オートマトンと形式言語をめぐる冒険』、その続篇『精霊の箱: チューリングマシンをめぐる冒険』とはまた違った物語──副題にもある通り、命令を何でもこなしてくれるスゴイ人工知能をつくる上で避けては通れない、コミュニケーションにおける人工知能の意図理解についての一冊である。
図や数式は一切なく、ワガママで勉強嫌いな王子と、彼の住まうクリオ城へと危機が迫り、「人間の命令を忠実に実行する」自動人形に囲まれた、王子の孤独な戦いがはじまる──。といったファンタジィとも童話ともいえる物語を純粋に楽しみながら読み進めるうちに、人と機械のコミュニケーション時に不可避的に発生する、「意図の理解」をめぐる難しさ、自然言語で機械に対して命令する際、原理的に出現する諸問題が把握できてしまうという優れものだ。
本作の「人形」は、現実世界ではまだ実現されていないレベルの意味理解能力を持つロボットです。人形たちは、単語の意味や文の意味を理解し、さまざまな命令を聞き、さまざまな状況で動くことができます。そういった機械が存在する世界でも、「意図理解の難しさ」、中でも「言われたことを実行することの難しさ」が、解決すべき課題として存在します。本作は完全なフィクションですが、提示したそれぞれの課題は、自然言語による命令を受け、それを実行する機械を実現しようとするならば、多かれ少なかれ、避けては通れない問題です。
著者の川添氏はデビュー作『白と黒のとびら』からして、現実の諸原理とファンタジィ設定を結びつけて物語るのが抜群にうまい作家であったが、『働きたくないイタチと言葉がわかるロボット 人工知能から考える「人と言葉」』など近い形式の作品を発表するうちに、その技術はもはや物語と諸原理の解説の両立に何の違和感も抱かせないレベルに達していて、これがまた凄い。
簡単なあらすじ、世界観設定
物語の舞台となるのはどこか遠い異世界、ハルヴァ王国のクリオ城。そこでルーディメント王子は何から何までおもしろくない日々をおくっている。召使はグズ、彼の教育係パウリーノは大嫌いな勉強ばかりさせ、周囲の者は誰も彼の気持ちをわかってくれない──そんな不満を募らせている王子は、ふとした瞬間に”太陽が二つある”場所に移動し、そこで一人の道化師と出会う。
その道化師は、”なんでもいうことの聞く人形”を多数所持しており、思い通りにならない召使たちへの不満が積もり積もっていた王子は、道化師にそそのかされるがままに、”なんでもいうことの聞く人形”と、クリオ城にいるグズな召使いたちを、取り替えると宣言してしまう──。
王子はそれらの不吉な言葉を振り払うように、目を閉じて首を振る。そんなこと、知ったことか。だいたい、僕の問題って、何だ？ 作文ができないってことか？ 言葉をうまく使えないってことか？ それのどこが悪いんだ？ 世の中の奴らがみんな、僕のことをきちんと分かれば問題ないんだ。問題は、僕を分かろうとしない、みんなの方にあるんじゃないか。みんなが僕の気持ちをくみ取ってくれさえすればいいのに、そうしようとしないのが悪いんだ。
王子が次に城で目を覚ました時、周囲にいた召使いたちはみな”自動人形”へと変貌を遂げていた。彼らはみな確かに人の命令をなんでも聞くことのできる人形である。それはしかし、”正しく命令されている限りにおいて”という条件付きの”なんでも”だ。たとえば兵士の隊長に「城を守って」と命令すると、両手両足をのばしてヤモリのように城壁へとへばりつく。「この服を脱がせて」と命令すると、ボタンを外すこともなく服を上へと持ち上げ王子の息が詰まる。
これはどちらも命令が抽象的すぎたがために起こった事象だ。何かを守るということは、一意で実行される命令ではない。敵を排除するのも守るだし、守る対象をどこかに移すのも守るだし、敵と対象の間に立ちはだかることかもしれない。そもそも”敵”というのがすでに抽象的な存在で、一般的な人間なら理解できたとしても最初に明確に”何を敵と定義するのか”を決めておかねば攻撃も防御も行うことができない。作中の自動人形たちは現実の人工知能よりかははるかに有能で、単語の意味を把握し文全体の意味を計算し、ある単語が比喩表現なのかどうかといったことを文脈で判断する機能があるようだが、それでも”意図の理解”には及ばない。
本書で王子は、自身のうかつさにより自動人形のみが存在するの城となった城内をなんとか掌握していく過程、おもてなしのための料理作り、近隣に存在する、城の制圧を狙う敵からの防衛、道化師たちから自身の召使を取り戻す戦いといったイベントを経て、自動人形を取り扱う技術に成熟し、”言葉の持つ重み”を知り、”言葉を正確に用いることの力”を身に着けていくことになる。
いうてもそんなに難しくないんじゃない？
意図の理解が難しいといっても、結局一手一手説明すればいいだけでしょ？ と思うところもあるが、実際にはこれが依然として解決不可能なほどに難しい。たとえば「矢を拾え」と命令したとする。これは単純な一般名詞の解釈の問題だが、これだけでも多数の解釈が存在する。
目の前の矢をひとつ拾えということなのか。あるいは目の前に存在するすべての矢を拾うべきなのか。また、「お腹が空いたんだけど」と子供が親に向かっていったら一般的には「何か食べ物をよこせ」という意味だが、これも言外の意図を把握できる人間ならではの理解であって、自動人形には通用しない。そうした一つ一つの例外ケースを全て記載すれば確かに自動人形は正しく動くが、王子が──というか我々が求めているのはそんな融通の聞かない知能ではなく「よろしく頼むよ」といったら全てを察してくれる知能である。そこまでの道のりはまだまだ遠い。
ロボットに対する命令に限らず、本書では人間にすら難しい課題──”自動人形に善悪の判断を持たせられるか”や、”自動人形に笑いの反応をさせるにはどうしたらいいのか”と突っ込んだところまで描写していく。読み味は軽く、王子の成長譚に加えて周囲の人々の奮闘まで含めて純粋に楽しめる(特に「言われたとおりに行動する」ことが元々難しかったカッテリーナの決意と行動は素晴らしいの一言！)一冊だが、そこで描かれている内容と問題はずっしりと重い。
おわりに
作中の人形のデフォルトの行動原理(プログラム)については最後、著者による解説(自然言語解釈への解説含む)が含まれており、あくまでも厳密なルールによってこの世界の人形が運営されていることがみえてくると、ファンタジィ／童話だけではなくＳＦ的な読み味も残る。
あくまでも自然言語の解釈についての話なので、より基礎的な原理を扱っていた『白と黒のとびら』、『精霊の箱』よりかは把握が優しいだろう(本書は話としては独立してはいるものの、二作のファンとしては嬉しい演出も盛り込まれている)。人工知能関連としては、同著者による『働きたくないイタチと言葉がわかるロボット 人工知能から考える「人と言葉」』もオススメ！
出版記念イベントがあるようなので、ついでに紹介しておく⇛「第4回年末年始は神保町で人文書フェア」公式イベント 川添愛先生トーク＆サイン会（『自動人形の城』刊行記念）
HONZのレビューはこちら
こっちも傑作！ HONZのレビューはこちら
