ビジネス書からSFまで　研究者オススメの「AIを理解するための本12冊」

バッハの曲に隠された数学的構造

今回は、60年足らずのAIの歴史の中で出版されたAI関連の本をご紹介する読書案内です。

AI研究者にとって大事な文献は、それより前にさかのぼって存在します。

しかし、ここでは専門書は除き、一般読者がAIへの理解を深めるのに役立ちそうな書籍に限定します。

 

ただ、私の考えるAI関連書籍はかなり広範囲に及びます。

私が学生以来、40年間AIを研究し続けた中で出会った、最も印象的な本も含まれます。

これらは大変刺激的な内容で、専門知識が不要とはいえ、少なくとも最初の2冊は頭をフル回転させなければ理解できない類のものです。

以下、順不同で紹介します。

1. マインズ・アイ―コンピュータ時代の「心」と「私」（ダグラス・ ホフスタッター / D.C. デネット著）

心の問題に関する様々な小説、エッセイ、論文などを集めた1冊です。

 

有名なチューリングテストを提案したイギリスの数学者、アラン・チューリングの論文「計算機械と知能」も含まれています。

1960年ごろのコンピュータの黎明期（れいめいき）に、これで知能が実現できると考えたチューリングが、「機械に知能は持てない」と反論する人たちに向けて描いた思考実験です。

具体的に言うと、通信端末を使った文字での対話をコンピュータで実現する方法を示し、実験者が対話の相手を人間かコンピュータか見破れないなら、コンピュータにも知能があると考えてよい、という内容でした。

顔かたちを人間に似せる必要はなく、知能の有無は言葉のやりとりで分かるという主張です。

 

イギリスの進化生物学者、リチャード・ドーキンスの「利己的な遺伝子と利己的な模伝子」はちょっとセンセーショナルな内容です。

人間や動物、あるいは植物は遺伝子で子孫を作ることが知られていますが、彼はこの生物と遺伝子の主従関係をひっくり返して見せました。

つまり、主人は遺伝子で、その遺伝子が自分のコピーをできるだけ多くばらまくために生物の体を造った、すなわち我々生物は遺伝子の乗り物である、という考え方です。

これは単に見方を変えてみせたのではなく、ダーウィンの進化論では説明できないような様々な現象（例えば自己犠牲などの利他的行為）を説明できる強力な理論なのです。

 

他にも様々な著者によるエッセイが収められていますが、雰囲気をお伝えするために、個々の章を大くくりにした部のタイトルだけを列挙しておきます。

「私とは」、「魂を求めて」、「ハードウェアからソフトウェアへ」、「心はプログラム」、「創られた私と自由意志」（AIや神経生理学では人間を機械と見なしますから、自由意志はあるのか、などが議論になります）、「内なる眼」（意識とは何で、どこにあるのか）――。

2. ゲーデル、エッシャー、バッハ―あるいは不思議の環（ダグラス・ ホフスタッター著）

Gödel, Escher, Bachの頭文字をとってGEBと呼ばれています。

この本の表紙には三方からそれぞれG、 E、 Bと読める立方体（実際に造形可能です）が描かれています。

原著は1979年に出版され、翌年の1980年にピューリッツァー賞を受賞しました。

翻訳本はもう絶版かもしれないと思ってアマゾンで調べたら、20周年記念版が2005年に発行されていて、まだ手に入るようです。

題名の通り、ゲーデル（数学者）、エッシャー（画家）、バッハ（音楽家）をテーマに、彼らの仕事や概念を文章で見せてくれる本です。

知能の限界などを議論するときに使われる、ゲーデルの不完全性定理というものがあります。

実用的な記述力を持った論理システムでは、そのシステム内で正しいとも間違っているとも決められない文（正確には命題）が作れるというものです。

我々の使っている日本語（もちろん英語など他の言語も同じです。論理言語やプログラミング言語と区別するために自然言語と呼びます）でもそういった文が作れます。

「この文は間違いである」というのがその例です。

この文が正しいと考えるとこの文は間違いであることになりますし、この文が間違っていると考えるとこの文は正しいことになってしまい、真偽が決められません。

 

エッシャーはだまし絵で有名です。

無限に登っていく階段の絵や、図と地がいつの間にか反転してしまう絵、そして鉛筆を持って腕を描いている腕が別の腕に描かれている絵など、現実世界にはありえないものを描いて見せてくれます。

腕を描く腕は、コンピュータプログラムで多用される再帰（リカージョン）の概念などと相通じるものがあります。

 

バッハの音楽は非常に技巧的で、裏に数学的構造が隠されています。

私の仲間の研究者にもバッハ好きが多くいます。

カノンという、複数旋律が追いかけっこする曲がありますが、GEBには3人の会話でこれを実現したものが載っています。

3. 心の病理を考える（木村敏著）

著者の木村敏は精神病理学の第一人者として知られますが、同時に現象学の哲学者としても有名で20212021年8月に90歳で亡くなりました。

 

この本では離人症（deparsonalization)という病気が中心的に扱われています。

英語の方が意味をとりやすいと思いますが、パーソナリティが脱落してしまうというような意味でしょうか。

自己に関する感覚がなくなり、自分の知覚している、ものとものの裏にある豊富な関係が感覚できず、「自分」や「時間の経過」が実感できなくなる神経症のことです。

患者はたとえば、…（中略）…窓の外の景色を見ても、あれは松だ、あれは屋根だ、あれは空だということはわかるのに、それが一つのまとまった風景になっているということが感じられない、温度計を見ればいま何度だということはいえるのに、暑いとか寒いとか、季節感とかがわからない、喜怒哀楽というものが感じられなくなってしまった、…（中略）…なにをしても、自分がそれをしているという感じがもてない、自分がここにいるのだということがわからない、「ここ」とか「そこ」とかいう意味がわからない、空間にひろがりというものが感じられない、遠いところも近いところも区別がなくなって、なにもかも一つの平面にならべられたような感じがする、というような体験を語ってくれる。（p26）

私はこれを読んで、まさに知識表現を持ったコンピュータのプログラム（例えばエキスパートシステム）のようだと思いました。

記号処理において時間の表現はなかなか難しい問題で、上記引用のようにスナップショットをつないでいく方式になっています。

人間が時間経過をどのように感じているかという問題もなかなか難しく、「時間の矢」に関しては多くの書籍が出ています。

「ロボット3原則」がもたらすジレンマ

4. 順列都市（グレッグ・イーガン著）

人間の思考をコンピュータ内でシミュレートするというテーマはSFにしばしば現れます。

その中でも白眉（はくび）と言えるのが、この『順列都市』（原題はPermutation City）です。

題名の意味は、みなさんが中学か高校で習ったであろう「順列組み合わせ」のことです。

順列組み合わせとはいくつかの要素（文字でも記号でも構いません）の並べ替えで、何通りの異なる並びができるかという計算問題ですが、これを思考のシミュレーションに当てはめます。

 

ちょっと背景説明すると、遠い未来、コンピューターの計算速度が上がり、人間の脳のシミュレーションが可能になった時代に、人々は永遠の生命を得ようとして自分の思考をコンピューターに移します。

お金持ちのシミュレーションは計算時間をたっぷり使って高速に行われますが、あまりお金のない人のシミュレーションは時分割（じぶんかつ＝1台のコンピューターが各ユーザーのタスクを順番に少しずつ処理するやり方）でゆっくりと計算されます。

しかし、シミュレートされている本人にはこの速度の違いは感じられません。

 

そこで、さらに踏み込んだ実験が行われます。

分割して少しずつ計算するのであれば、その順序を変えたらどうなるのか？

例えばある日の1分間のシミュレーションを行った後、数日後の1分間のシミュレーションを行い、次に10日さかのぼった時点の1分間のシミュレーションを行った場合、本人の時間感覚はどうなるのか？

小説内では、本人にとっては時間が普通の順序で流れているように感じられるということになっています。

 

しかし、AI研究者としては、そのような順番を入れ替えたシミュレーションは不可能だと考えます。

理由は脳の働きは複雑系だからです。

複雑系というのは、簡単に言えば、順に計算しないと結果が得られないのです。

途中を計算しないで10秒後を計算することは原理的にできないのです。

これを私に気づかせてくれたのがこの小説でした。

5. わたしはロボット　I, Robot（アイザック・アシモフ著）

SF作家、アイザック・アシモフによるロボットシリーズの代表作です。

シリーズ全体を通すテーマは「ロボット3原則」です。

全てのロボットに組み込まれた規則で、ロボットはこれを遵守しなければなりません。

次のような内容です。

 

第1則： ロボットは人間に危害を加えてはならない。またその危険を看過することによって、人間に危害を及ぼしてはならない。

A robot may not injure a human being or, through inaction, allow a human being to come to harm.

 

第2則： ロボットは人間に与えられた命令に服従しなくてはならない。ただし、与えられた命令が第1則に反する場合はこの限りではない。

A robot must obey the orders given to it by human beings, except where such orders would conflict with the First Law.

 

第3則： ロボットは第1則、第2則に反するおそれのない限り、自己を守らなければならない。

A robot must protect its own existence as long as such protection does not conflict with the First or Second Law.

 

この3原則は自然言語で記述されており、これをロボットの思考回路（陽電子頭脳）にどのように組み込むのかには言及されていません。

AI研究者としては実装は不可能だと考えていますが、それは置いておいて、物語はこの3原則とロボットが直面する問題との齟齬（そご）が問題になります。

そしてロボット心理学者のスーザン・カルヴィンが謎解きをしていきます。

 

中でも私が好きなのは「堂々めぐり（Runaround）」という短編です。

SPD13、愛称スピーディーという高速走行タイプのロボットが登場します。

SPD13は高価なロボットなので、通常より第2則（自己保存）が強化されていました。

その結果、第1則（命令遵守）とせめぎあって、目標から一定の距離を保って回り続けるというものです。

私はSPD13を自分なりにデザインして自著『Prolog』の表紙に入れていました。

この命令遵守と自己保存のせめぎあいというのは、AI的に深い話題です。

スチュアート・J・ラッセルというAIの新世代（時期的には「第2の夏」の後で、「第3の夏」の前）の研究者がいます。

『Artificial Intelligence: A Modern Approach』（邦訳は『エージェントアプローチ 人工知能』）という分厚い教科書の著者ですが、題名からもわかるようにAIのパラダイムシフトを図った研究者です。

第1世代の合理的エージェント追求から限定合理性への転換です。

ある意味、第4回コラムで述べた英語の視点（鳥の視点）から日本語の視点（虫の視点）への転換です。

 

彼が2017年の人工知能国際会議で行ったキーノートスピーチ「Provably Beneficial AI（有用性が証明できるAI)」に興味深い主張がありました。

「AIに人間の価値観を教えることが重要」だが、同時に「『人間の価値観は完全には理解できない』ということも教える必要がある」というものです。

 

例えばロボットには、人間の安全のため非常停止用のキルスイッチが付いていますが、ロボットにとってはこれを押されると人間の命令が遂行できなくなります。

ロボットにとってキルスイッチの価値は決して理解できないけれど、それを受け入れさせねばならないというのです。

アシモフの「堂々めぐり」のSPD13も、命令を遂行しようとすると自己保存が果たせない、だから結局命令も実行できない、というジレンマがあったのです。

 

ロボット3原則に話を戻すと、これを遵守しないロボットやAIはその後の映画に多く出てきます。

人間殺しの双璧は「ターミネーター」と、「2001年宇宙の旅」に出てくるHAL9000ではないでしょうか。

特にターミネーターは、AIが人類を滅ぼすという恐怖心を煽っているように感じられます。

なお、ウィル・スミス主演の映画「アイ, ロボット」はロボット3原則を扱った作品ですが、小説とは異なるストーリーです。

6. ダイヤモンド・エイジ（ニール・スティーヴンスン著）

AIとナノテクで作られた絵本が1人の女の子の教育を全て担う、というストーリーです。

この絵本（下図がそのイメージです）をプログラマーが孫娘の教育用に作って孫に与えるところから話は始まり、この女の子は1人で育ち、成人します。

最初は子どもの絵本らしい、単純なストーリーで文字を学ばせます。

例えば、お姫様が王子様と出会ってめでたしめでたし、みたいなものです。

その後、女の子が成長するにつれ、使われる単語が高度になり、ストーリーも複雑になっていきます。

現在、AIプログラムによる個別教育の可能性と必要性が議論されています。

学習者の理解度に応じた教育が提供されることがメリットです。

『ダイヤモンド・エイジ』に書かれたようなプログラムができれば理想だと思います。

気楽にAIを知れる推理小説、続編も2冊

7. 探偵AIのリアル・ディープラーニング（早坂吝著）

題名の「ディープラーニング」に始まり、各章の名称にも「フレーム問題」「シンボルグラウンディング問題」「不気味の谷」「中国語の部屋」といったAIのキーワードが並んでいます。

軽い推理小説になっていますが、AIの記述に間違ったところはないので、AIが何かを気楽に知りたい人にはオススメです。

現在、『犯人IAのインテリジェンス・アンプリファー』と『四元館の殺人―探偵AIのリアル・ディープラーニング―』という2冊の続編が出版されています。

 

8. 利己的な遺伝子（リチャード・ドーキンス著）

1冊目に紹介した『マインズ・アイ―コンピュータ時代の「心」と「私」』に収められた文章などを書籍化したものです。

 

生物は遺伝子の情報から作られます。

そして遺伝子の形で子孫を残していきます。

この生物と遺伝子の関係を逆転してみせたのがこの本です。

遺伝子が自分を残すために生物を利用しているというのです。

 

この見方の利点は、生物の利他的行為が説明できるということです。

例えば、親が子のために犠牲になるという行為は、生物の自己保存の原則では説明できません。

しかし、遺伝子の観点からすると、子は自分の遺伝子の半分を受け継いているわけですから、遺伝子の自己保存になります。

子どもでなくても親兄弟、親戚にも当てはまります。

9. 予想どおりに不合理―行動経済学が明かす「あなたがそれを選ぶわけ」（ダン・アリエリー著）

人間の決断は不合理だが、その不合理性は予測可能である、という研究です。

人々を笑わせ、考えさせた業績に贈られる「イグ・ノーベル賞」を受賞しました。

イギリスのコンピューター科学者、スチュアート・J・ラッセルの「限定合理性」と同様の主張です。

行動経済学で同種の本が最近たくさん出てきましたが、私にとってはこの本が最初の出会いでした。

 

古典的経済学は、人間が理想的な判断をするという前提で方程式を作り、それを解くことで経済現象を説明しようとしてきました。

コンピューターがないころの話ですから、方程式を作らなければ理論が展開できなかったという理由もあるようです。

しかし、人間が理想的な判断をするというモデルは、現実の経済現象とは必ずしも一致しません。

 

その典型例がバブルです。

みんなが理想的に判断すればバブルは起こりません。

値上がりの期待が大きすぎ、過大な投資をするからバブルになり、いずれはじけます。

最近（1980年代から）ではコンピューターでのシミュレーションが可能になり、バブル現象なども再現できるようになっています。

 

行動経済学は人間の経済行動（何にいくら払うか）を実験で検証します。

筆者のアリエリーは様々な実験を思いついて実行し、その結果を記述しています。

 

例えば、ある商品の値段が妥当かどうかを決める絶対的な基準はないので、他との比較を使います。

その時に「おとり」の選択肢を入れておくと、結果が異なるというのです。

おとりは決して選ばれませんが、おとりとの相対比較で残りのものの見え方が変わるのです。

一番おもしろい例を紹介しておきます。

デートと相対性について　本章では、相対性について考えるなかで、出会いに役立つちょっとしたアドバイスをした。夜遊びに繰り出すなら、あなたによく似ているけれど、あなたより少しだけ魅力に欠ける友人を誘ってはどうか、という提案だ。評価は相対的なものなので、あなたはおとりである友人と比べてすてきに映るだけでなく、バーにいるほかの人たちと比べても魅力的に見える。（p.49-50）

10. ファスト&スロー: あなたの意思はどのように決まるか?（ダニエル・カーネマン著）

意識下で「ファスト（fast）」に動くシステム1と、熟考型の「スロー（slow）」なシステム2が描かれています。

システム1の例は、顔や文字の認識、1ケタの数字の四則演算（2+2など）、チェスの妙手を思いつくこと、などです。

システム2の例は、白髪の女性を探す、歩く速度を通常より速いペースに保つ、2ケタ以上の数字の演算、複雑な論旨の妥当性の検証、などです。

 

深層学習がかなり知的な作業をこなすようになってきましたが、本質的にはシステム1の機能にとどまっています。

機械翻訳もかなり高度になってきて、Transformerと呼ばれる巨大システムでは様々な例を学ばせることによって四則演算も学ぶようです。

それでも四則演算はシステム1の機能です。

 

一方、旧来のAIはシステム2を扱ってきました。

1980年ごろ、マサチューセッツ工科大学名誉教授でAIの父と呼ばれたマービン・ミンスキーが、大人の知能（システム2）は比較的簡単にプログラムできるが、子どもの知能（システム1）は難しいと述べています。

例えば大学の教科書のように、システム2の働きは言語化しやすいのでエキスパートシステムが作られました。

一方で、暗黙知とも呼ばれるシステム1の言語化は困難で、プログラム化できませんでした。

最近、深層学習がこの部分を埋めるようになったのです。

11. 人工知能のための哲学塾　東洋哲学篇（三宅陽一郎著）

三宅陽一郎はスクウェア・エニックスでファイナルファンタジーなどを開発したAIゲーム開発者です。

ゲーム開発者が哲学を語るという異色の『人工知能のための哲学塾』(2016)に続き、『人工知能のための哲学塾　東洋哲学篇』(2018)、『人工知能のための哲学塾 未来社会篇 〜響きあう社会、他者、自己〜』(2020)が立て続けに発行されました。

 

日本では、哲学をする人は多くありません。

AI研究者における割合は他の分野より若干高い気がします（特に現象学がAIと関係します）が、ゲーム開発者となるとかなり少数派なのではないかと思われます。

しかし、三宅はゲームのキャラクターに実在感を持たせるには哲学が必要だと主張しています。

 

私は、この3部作の中では2作目の東洋哲学編が気に入っています。

ただ、第1作では、理論生物学者のユクスキュルが唱えた、それぞれの生物種が持っている固有の環境認識、つまり「環世界」という概念を取り扱っており、必見です。

12. 知能の物語（中島秀之著）

手前みそですが、最後は筆者の著書を紹介させて下さい。

この本の題名には2つの思いを込めました。

1つは人工知能ではなく、人工と自然の両方の知能を扱ったこと。

そしてもう1つは、知能について語る場合（あるいは人工知能の研究をする場合）に従来の自然科学の方法論（つまり、実験による検証）は使えないので、知能についての物語にならざるを得ない、そしてそれが正しいという主張です。

 

このコラムではAIについて、専門知識にあまり踏み込まない記述を心掛けています。

その結果、物足りなく感じている読者もいるかもしれません。

その場合、『知能の物語』をお読みいただければと思います。

 

（朝日新聞社の経済メディア「bizble」で2021年10月7日に公開した記事を転載しました）