Artificial Intelligence: A Guide for Thinking Humans（人工知能：考える人間のためのガイド）

引用

Mitchell, M. (2020). Artificial Intelligence: A Guide for Thinking Humans. Pelican (Penguin Books). First published 2019 by Farrar, Straus and Giroux.

章の要約

一般読者向けの本で、著者は抽象化、類推、推論を研究するコンピュータ科学者である（執筆当時はポートランド州立大学、現在はサンタフェ研究所）。プロローグの後に5部16章が続く。Background（第1–3章）、Looking and Seeing（第4–7章）、Learning to Play（第8–10章）、Artificial Intelligence Meets Natural Language（第11–13章）、The Barrier of Meaning（第14–16章）である。各部は近年のAIの主な領域、すなわち歴史、視覚、ゲーム、自然言語、そして最後に理解の問題をたどる。出版社は本書を、AIの進歩を認知科学や哲学と織り合わせたものと説明し、書評は、各領域がまず仕組みとして説明され、その後批判的に検討されると指摘している。本書は2019年に書かれており、今日の大規模言語モデルによるチャットボットが登場する前のものである。

プロローグ：Terrified（恐怖）

ミッチェルは、かつての博士課程の指導教員で Gödel, Escher, Bach の著者であるダグラス・ホフスタッターとともに参加した2014年のGoogleでの会合を振り返る。ホフスタッターは、チェスの王者に勝つプログラムや作曲するプログラムが人間を「遺物」にしてしまうかもしれないと「恐怖」を語った。彼の反応が、現在のAIは本当にどれほど知的なのかという本書の問いの枠組みとなる。

第1–3章：The Roots of Artificial Intelligence（人工知能の起源）；Neural Networks and the Ascent of Machine Learning（ニューラルネットワークと機械学習の台頭）；AI Spring（AIの春）

1956年のダートマス会議に始まる分野の歴史、記号的AI（規則とエキスパートシステム）と、パーセプトロンに始まる非記号的アプローチへの分岐、楽観と「AIの冬」の繰り返し、そして機械学習と深層学習の台頭を扱う。書評は、チューリングテストや、来たるべき「シンギュラリティ」の予測についての著者の説明にも触れている。

第4–6章：Who, What, When, Where, Why（誰が、何を、いつ、どこで、なぜ）；ConvNets and ImageNet（畳み込みネットワークとImageNet）；A Closer Look at Machines That Learn（学習する機械をよく見る）

コンピュータビジョンを扱う。写真を理解することがなぜ難しいのか、誤差逆伝播法で訓練される多層ネットワークと畳み込みニューラルネットワークがどのように画像を分類するのか、そしてImageNetの競争である。続いてこの部は、こうしたシステムが何を学んでいるのかを批判的に検討する。書評が取り上げる例として、動物ではなくぼやけた背景を見分けるよう学習してしまったネットワーク、人間が設定するハイパーパラメータの役割、そしてネットワークにスクールバスをダチョウと判断させてしまう敵対的画像がある。

第7章：On Trustworthy and Ethical AI（信頼できる倫理的なAIについて）

ある書評によれば約13ページの短い章で、AIシステムの信頼性と倫理を扱う。

第8–10章：Rewards for Robots（ロボットへの報酬）；Game On（ゲーム開始）；Beyond Games（ゲームを超えて）

ボールを蹴ることを学ぶロボット犬を例に強化学習を導入し、続いてDeepMindのAtariゲームのプレイヤーにおける深層ネットワークとの組み合わせ、ディープ・ブルーとAlphaGoを支える探索手法、そしてゲームで学んだ技能が現実世界に転移するかどうかを論じる。

第11–13章：Words, and the Company They Keep（単語と、その仲間）；Translation as Encoding and Decoding（符号化と復号としての翻訳）；Ask Me Anything（何でも聞いて）

自然言語処理を扱う。感情分類、再帰型ニューラルネットワーク、word2vecなどの単語ベクトル、エンコーダ・デコーダ型の機械翻訳、質問応答と読解であり、常識的知識を必要とするテストとしてのウィノグラード・スキーマも含む。

第14–16章：On Understanding（理解について）；Knowledge, Abstraction, and Analogy in Artificial Intelligence（人工知能における知識、抽象化、類推）；Questions, Answers, and Speculations（問い、答え、推測）

最後の部は、理解には何が必要かを問う。直観物理学などの中核的な知識、抽象化と類推（著者自身の研究テーマ）、そして現在のシステムになぜそれが欠けているのかである。最終章は、その題が示すとおり、AIの将来についての問いと推測に向かう。

主要概念

第I部：Background

• 記号的AIと非記号的AI：明示的な規則と推論をプログラムすることと、単純なユニットのネットワークでデータから学習することの対比。
• パーセプトロン：重み付きの入力を合計し、しきい値を超えると発火する初期の人工ニューロン。
• AIの春と冬：この分野で繰り返されてきた、楽観、資金、失望の周期。

第II部：Looking and Seeing

• 畳み込みニューラルネットワーク：エッジや形といった特徴を積み上げて画像を分類するネットワーク。
• 訓練データとハイパーパラメータ：深層学習が依存する、ラベル付きの例と人間が選ぶ設定。
• 敵対的事例：ネットワークが誤分類するよう、知覚できないほどわずかに変えられた入力。

第III部：Learning to Play

• 強化学習：探索と活用のバランスをとりながら、試行錯誤でどの行動が報酬を得るかを学ぶこと。
• 転移：ある課題で学んだ技能が別の課題に持ち越されるかどうか。ゲームをするシステムにはこれがほとんど欠けている。

第IV部：自然言語

• 単語ベクトル：似た文脈で使われる単語どうしが近くに位置する数値表現。
• エンコーダ・デコーダ翻訳：ある言語の文を符号化し、別の言語に復号するネットワーク。
• ウィノグラード・スキーマ：正しい読みが常識的知識に依存する文の対。

第V部：The Barrier of Meaning

• 常識と中核的知識：物がどう落ちるか、何が自分で動くかといった物理と生物についての直観的な知識で、人は意識せずに使っている。
• 抽象化と類推：状況の本質を見抜き、それを別の状況に写す能力。著者はこれを理解の中心に置いている。

批判的分析

長所

• 非専門家向けの明快な技術的説明。 Kirkus Reviews は本書を、数学を使わないがある程度技術的で、おおむね明快な入門と評し、The Christian Science Monitor のバーバラ・スピンデルはテーマを明快に伝える点を称賛している。パーセプトロン、誤差逆伝播法、畳み込みネットワーク、強化学習、単語ベクトルは、いずれも数式なしで説明される。
• 節度ある懐疑。 どの部も成功とその限界を対にしている。視覚では近道学習と敵対的事例、ゲームでは転移の欠如、言語では本当の理解の必要性である。Skeptic に書評を寄せたピーター・カッサンは、著者の評価を慎重で抑制が効いていると評している。
• 文脈としての歴史。 Library Journal のジム・ハーンは、戦後のエキスパートシステムと推論から、深層学習が一度退けられ後に認められるまでの歴史的な裏づけを高く評価しており、これは学生が現在の主張を見通す助けになる。著者は不確かさについても率直で、AIが大量失業を引き起こすかという問いには、わからないと答えている。
• 研究者による理解の見方。 第V部は類推と抽象化についての著者自身の研究に基づき、AIを認知科学と結びつける。

短所

• 変化の速い分野では古くなっている。 2019年の出版であるため、言語の章は再帰型ネットワークとエンコーダ・デコーダ翻訳を扱うものの、現在この分野の主流であるトランスフォーマーに基づく大規模言語モデルは扱っていない。例やベンチマークの数値に頼る前に、その後の展開を確認すべきである。
• 教科書ではない。 演習も数学もなく、アルゴリズムは概念的に説明される。Kirkusは一般読者には難解すぎる箇所もあるとし、Christian Science Monitorの書評も、素人には手ごわい技術的な言葉遣いがあると指摘している。
• 倫理と社会については手薄。 カッサンの書評は、信頼できる倫理的なAIの章を短く、主題に対して不十分だと述べている。

コースにおける位置づけ

機械学習とAIのコースの中で、本書は技術的でない導入にあたる。Russell と Norvig の Artificial Intelligence: A Modern Approach は、同じ歴史、探索、ゲーム、学習、言語、視覚を、アルゴリズム付きの本格的な教科書として扱う。James、Witten、Hastie、Tibshirani、Taylor の An Introduction to Statistical Learning は統計的手法をPythonの演習とともに教え、Murphy の Probabilistic Machine Learning と Szeliski の Computer Vision は機械学習の理論と視覚に深く踏み込む。Mitchell は、それらの技法が何のためにあり、どこに限界があるのかを理解するために、最初に、あるいはそれらの本の最初の数週間と並行して読むのがよい。

理解、汎化、評価についての本書の問いは、深層学習の技術的な章を読むときにも役立ち続ける。学生は、近道学習、敵対的事例、転移についての著者の主張を、教科書が報告していることに照らして検証できる。

本書の使い方

本書は数学やプログラミングを前提とせず、どの分野の1年生にも、技術的な授業の前に見通しを得たいコンピュータサイエンスの学生にも向いている。

• 中核： プロローグと第I部・第II部。歴史と、本書全体で使われる深層学習への批判的な見方がここで確立される。
• 関心に応じて： 強化学習とゲームなら第III部、言語なら第IV部。
• 欠かせない結論： 意味と理解についての本書の中心的な議論を示す第V部。

背景知識としてまず手早く読み、授業が畳み込みネットワーク、強化学習、言語モデルに進んだときに該当する章に戻るとよい。それぞれの技法について、著者が指摘する長所と短所を書き留め、その後の研究がそれにどう取り組んだかを調べること。とくに第IV部では、著者による言語システムの説明を現在の大規模言語モデルと比べてみるとよい。