Language and Computers（言語とコンピュータ）

引用

Glass, L., Dickinson, M., Brew, C., & Meurers, D. (2024). Language and Computers (2nd ed.; Textbooks in Language Sciences 14). Language Science Press. Free official edition: https://langsci-press.org/catalog/book/454

章の要約

第1章：コンピュータ上で言語を符号化する

本書は、ホケットの設計特性を用いて言語とは何かを問い、言語と文字を区別することから始まります。文字体系（アルファベット、アブジャド、アブギダ、音節文字、表語文字）、コンピュータが二進数、ASCII、Unicode／UTF-8によってテキストをどう表すか、そして国際音声記号やスペクトログラムを用いて音声がどのように記録され音響的に分析されるかを概観します。短い節で自動音声認識と音声合成を紹介した後、本書は音声を脇に置いてテキストに焦点を移します。「Under the Hood（舞台裏）」の囲みでは、絵文字、オンラインのギグ・プラットフォーム、スペクトログラムの読み方を扱います。

第2章：書き手のための支援ツール

英語の綴りの歴史から始まり、この章は綴り誤りの種類と簡単なスペルチェッカーの作り方を説明します（Under the Hoodの話題として、ピーター・ノーヴィグのスペルチェッカーと、編集距離のための動的計画法が取り上げられます）。nグラムと単純な生成的言語モデルを導入し、続いて句構造文法と依存文法による文法チェック、記述文法と規範文法、言語の形式的な複雑さ、文体チェッカー、そしてオートコンプリートやChatGPTのような生成ツールを扱います。最後の節は、これらの考え方を雑音のある通信路モデルや後の章と結びつけます。

第3章：コンピュータ支援言語学習

この章は第一言語と第二言語の学習を比較し、第二言語学習の成功を左右する要因を検討したうえで、CALLシステムがなぜ「知的」である必要があるのかを問います。言語のモデル化と学習者のモデル化を論じ、二つの事例――ドイツの7年生向け英語教科書に基づく知的チュータリングシステムFeedBookと、Duolingo（間隔反復とA/Bテストを含む）――を取り上げ、そうしたツールがどのように評価されるか、言語教育にとって何を意味するかで締めくくります。

第4章：データとしてのテキスト

本書はここで、知識駆動型の応用からデータに語らせる方向へと転換します。デジタル・ヒューマニティーズ、コーパス言語学、計算社会科学、著者推定におけるテキスト・アズ・データの研究、利用可能な英語コーパスとそのメタデータ、そしてプライバシーや偏りといった倫理的問題を概観します。続いて、単語がどのように分布しているか（機能語と内容語、タイプとトークン、ジップの冪乗則と簡潔性の法則）、トピックモデル、そして単語・文脈行列から文脈化された表現に至るベクトルとしての語の意味を検討します。Under the Hoodの囲みではヴォイニッチ手稿が取り上げられます。

第5章：テキスト分類

スパムフィルタを主な例として、この章はコンピュータがラベル付きデータからどのように「学習」するか、成功をどう測るか（感度、特異度、基準率と基準率の誤謬、過学習）、そしてナイーブベイズやパーセプトロンを含む分類器の例を説明します。転移学習とBERTの学習に使われるタスクを素描し、教師あり学習と教師なし学習を区別し、感情分析を扱い、ベンチマークとリーダーボードおよびその限界を論じます。

第6章：検索

この章は、ある情報要求――昔の友人をオンラインで探すこと――から始まり、構造化データ、ナレッジグラフとオントロジー、質問応答、専門家向けのブール検索（Under the Hoodで正規表現と有限状態オートマトンを扱う）、そして一般向けのウェブ検索――関連性による順位づけ（文書ベクトルとTF-IDF）とページの質による順位づけ、HTML、設計上の選択、検索の未来――を扱います。最後に推薦システムと、検索エンジン最適化のような順位づけの社会的影響を論じます。

第7章：機械翻訳

現在の機械翻訳の品質と翻訳の需要の例を示した後、この章は言語をまたいだ意味、類型論的な違い、翻訳の三角形を探ります。対訳コーパスと単語アラインメントからシステムを構築する方法を説明し、統計的機械翻訳とニューラル機械翻訳（エンコーダ・デコーダ注意機構と自己注意を含む）を対比し、評価のためのBLEUを導入し、1966年のALPAC報告を振り返りながら、この課題がかつて考えられていたより扱いやすいことが分かった理由を考察します。

第8章：対話システム

『2001年宇宙の旅』のHALから始まり、この章は会話がどのように成り立っているか――文脈、共通基盤（コモン・グラウンド）、平叙文以外の発話、話者交替、グライスの公理、前提と含意――を説明します。続いてチャットボット（ELIZA、マイクロソフトのTay、Kuki、ChatGPT、そして中国語の部屋の思考実験）とデジタルアシスタント（Siri、Google DialogFlow）について、それぞれの作り方と評価の仕方、さらにチューリング・テストとウィノグラード・スキーマを扱います。

第9章：エピローグ

エピローグは一歩引いて、言語技術の経済的・教育的・社会政治的な影響を、架空の悲観論者と楽観論者の討論という形で論じ、授業での議論のための問いを投げかけます。

主要概念

第1章：コンピュータ上で言語を符号化する

• 言語と文字：文字は言語を記録するための技術であり、言語そのものではない。
• UnicodeとUTF-8：文字の普遍的な一覧と、それをバイト列として符号化する方式。
• スペクトログラム：音声に含まれる周波数を時間に沿って視覚化したもの。

第2章：書き手のための支援ツール

• 編集距離：ある文字列を別の文字列に変えるのに必要な挿入・削除・置換の最小回数。
• nグラム言語モデル：データから学習した、直前の数語から次の語を予測するモデル。
• 雑音のある通信路モデル：乱れた信号から意図されたメッセージを推論すること。

第3章：コンピュータ支援言語学習

• 最近接発達領域：学習者がすでにできることの少し先に合わせた入力。
• 学習者モデル：学習者が何を知っているかを追跡し、練習問題やフィードバックを調整すること。
• 間隔反復：記憶の定着を助けるため、間隔を広げながら復習すること。

第4章：データとしてのテキスト

• ジップの法則：ごく少数の語が非常に頻繁に現れ、大半の語はまれであること。また頻度の高い語ほど短い傾向があること。
• トピックモデル：文書を特徴づける、共起する語のまとまりを見つけ出すこと。
• 単語ベクトル：語が現れる文脈によって、語の意味を数値的に表すこと。

第5章：テキスト分類

• 感度と特異度：分類器が陽性をどれだけ見つけ、偽陽性をどれだけ避けるか。
• 基準率の誤謬：分類器の出力を解釈する際に、そのクラスがどれほどまれかを無視すること。
• 転移学習：あるタスクで訓練したモデル（BERTの事前学習など）を別のタスクに再利用すること。

第6章：検索

• 情報要求：利用者が本当に求めているもので、検索クエリはそれを近似するにすぎない。
• TF-IDF：語を、ある文書での頻度と文書集合全体でのまれさによって重みづけること。
• ナレッジグラフ：実体とその関係を結びつける構造化データ。

第7章：機械翻訳

• 翻訳の三角形：より抽象的な表示ほど言語間の隔たりが小さくなるという考え方。
• 単語アラインメント：対訳文の中で対応する語を結びつけること。
• 注意機構（アテンション）：翻訳モデルが入力の関連する部分に焦点を当てられるようにするニューラルな仕組み。

第8章：対話システム

• 共通基盤：会話の参加者が積み上げていく共有情報。
• グライスの公理と含意：話し手が言葉にした以上のことを伝えられるようにする協調の原理。
• ウィノグラード・スキーマ：代名詞を解決するのに世界知識が必要となる、対になったテスト文。

第9章：エピローグ

• 言語技術の社会的影響：仕事、教育、政治への影響。読者は複数の立場からそれを考えるよう求められる。

批判的分析

長所

• 本当の意味での入門書であり、開かれている。 序文は、必要な予備知識は言語への好奇心と日常的なコンピュータの経験だけだと述べ、「人文系に自信のある」学生と「計算系に自信のある」学生の双方を迎え入れることを目指しています。技術的な深みは任意で読める「Under the Hood」の囲みにまとめられ、本文は読みやすさを保っています。
• 応用を入口にする。 各章は身近なツール――スペルチェッカー、Duolingo、スパムフィルタ、検索エンジン、Google翻訳、チャットボット――から出発し、その背後にある言語学と計算へとさかのぼることで、同じ考え方（分類、nグラム、候補の生成と順位づけ、雑音のある通信路）が繰り返し現れることを示しています。
• 入門書としては最新の内容。 第2版は単語ベクトル、BERT、注意機構を用いたニューラル機械翻訳、ChatGPT、ベンチマークとリーダーボードを扱っており、学生は現在の手法に概念レベルで触れることができます。
• 倫理と影響への配慮。 各章は「Consequences（影響）」の節で終わり、コーパスのプライバシーと偏り、検索エンジン最適化、マイクロソフトのTay、ベンチマークの英語偏重といった話題が技術と並んで論じられます。チェックリストと演習が復習を支えます。

短所

• プログラミングを扱わない。 本書は手法がどう機能するかを説明しますが、学生にそれを実装させることはありません。実践的な技能を求める学生には、プログラミングに基づく別のテキストが必要です。
• 音声の扱いは簡潔。 音声認識と音声合成は第1章で紹介された後、テキストを優先して脇に置かれます。
• 英語中心のデータ。 文字体系や類型論的な違いは論じられていますが、例題の大半と第4章で概観されるコーパスは英語のものです。
• 変化の速い話題。 ChatGPT、デジタルアシスタント、検索についての節は急速に変化する製品を記述しており、早く古くなる可能性があります。

コースにおける位置づけ

「計算言語学・コーパス言語学」のリストで、本書は概念的な入口です。プログラミングを前提とせず、言語技術が何をし、なぜ機能するのかを説明するため、BirdとKleinとLoperの Natural Language Processing with Python の前に読むのが自然です。後者は同様の分析をPythonで実装する方法を教えます。Doing Corpus Linguistics は一般に、コーパスの方法への実践的な入門書とされており、本書の第4章とよく組み合わせられます。

McEneryとHardieの Corpus Linguistics: Method, Theory and Practice とGriesの Quantitative Corpus Linguistics with R は、コーパス言語学の流れを方法論的にも統計的にもずっと先へ進めます。JurafskyとMartinの Speech and Language Processing は、本書の第2章と第5〜8章の背後にあるアルゴリズムを技術的に深く扱っています。本書の「Under the Hood」の囲みを楽しめた学生は、ある程度のプログラミングと数学を身につけた後、そちらへ進む準備ができています。

本書の使い方

本書は言語学、人文学、コンピュータ科学の学生を含め、あらゆる背景をもつ学部生に向けて書かれており、オハイオ州立大学とジョージア工科大学で教えられた授業から生まれました。言語、文字、符号化の基本概念を提供する第1章をまず読んでください。その後、第2〜8章はおおむね順番に読めます。後の章はnグラム（第2章）、ベクトル（第4章）、分類（第5章）を土台にしているからです。著者は、人間と機械の多言語性を比べるために、第3章を第7章と並行して読むことを勧めています。

復習には余白のキーワードと章末のチェックリストを使い、興味のある演習を選び、より技術的な詳細を知りたい場合は「Under the Hood」の節を読んでください。上級の学生向けには、序文は本書を、デジタル・ヒューマニティーズ、計算社会科学、コーパス言語学の研究論文の講読リストと組み合わせ、学生に発表させることを勧めています。付属サイト（https://osf.io/v7uqm/）ではシラバスの例とスライドが提供されています。

版と出典

本ガイドは Language and Computers 第2版（Language Science Press、2024年、Textbooks in Language Sciences 14、CC BY 4.0）に基づいており、底本は https://langsci-press.org/catalog/book/454 からリンクされ、Zenodoで公開されている公式のオープンアクセスPDF（DOI 10.5281/zenodo.12730906）です。本ガイドは、謝辞と序文（目的、対象読者、本書の使い方）、すべての節とUnder the Hoodの囲みを含む目次全体、そして全9章の冒頭の節、「Consequences」の節、章末のチェックリストに基づいています。