Language and Computers（语言与计算机）

引用

Glass, L., Dickinson, M., Brew, C., & Meurers, D. (2024). Language and Computers (2nd ed.; Textbooks in Language Sciences 14). Language Science Press. Free official edition: https://langsci-press.org/catalog/book/454

章节概要

第1章：在计算机上编码语言

本书以霍凯特的语言设计特征追问"语言是什么"，并把语言与文字区分开来。随后概述各种文字系统（字母文字、辅音音素文字、元音附标文字、音节文字和语素文字），计算机如何用二进制数、ASCII 和 Unicode／UTF-8 表示文本，以及如何借助国际音标和语图记录并从声学上分析语音。简短的小节介绍自动语音识别和语音合成，之后本书把语音放在一边，专注于文本。"幕后揭秘"（Under the Hood）专栏讨论表情符号、在线零工平台以及如何读语图。

第2章：写作辅助工具

本章从英语拼写的历史讲起，解释拼写错误的类型以及如何构建一个简单的拼写检查器（"幕后揭秘"专栏介绍彼得·诺维格的拼写检查器和用于计算编辑距离的动态规划）。它引入 n 元语法和简单的生成式语言模型，然后讨论基于短语结构语法和依存语法的语法检查、描写语法与规定语法、语言的形式复杂度、文体检查器，以及自动补全和 ChatGPT 等生成工具。最后一节把这些思想与噪声信道模型以及后续章节联系起来。

第3章：计算机辅助语言学习

本章比较第一语言和第二语言的习得以及影响二语学习成败的因素，并探讨计算机辅助语言学习（CALL）系统为何需要"智能"。它讨论语言建模和学习者建模，并以两个系统为例——基于德国七年级英语教材开发的智能辅导系统 FeedBook，以及多邻国（Duolingo，包括间隔重复和 A/B 测试），最后讨论这类工具如何评估及其对语言教育的意义。

第4章：作为数据的文本

本书在这里从知识驱动的应用转向让数据说话。本章概述数字人文、语料库语言学、计算社会科学和作者画像中的"文本即数据"研究，介绍现有的英语语料库及其元数据，以及隐私和偏见等伦理问题。随后考察词语的分布规律（功能词与实词、词型与词例、齐普夫幂律和简洁律）、主题模型，以及从词—语境矩阵到语境化表示的词义向量表示；"幕后揭秘"专栏讨论伏尼契手稿。

第5章：文本分类

本章以垃圾邮件过滤为主要例子，说明计算机如何从带标签的数据中"学习"，如何衡量成效（灵敏度、特异度、基础比率与基础比率谬误、过拟合），并介绍朴素贝叶斯和感知机等分类器。它简述迁移学习和 BERT 的训练任务，区分有监督学习和无监督学习，讨论情感分析以及基准测试和排行榜及其局限。

第6章：搜索

本章从一个信息需求——在网上寻找老朋友——讲起，涵盖结构化数据、知识图谱与本体、问答系统、面向专业人士的布尔检索（"幕后揭秘"专栏介绍正则表达式和有限状态自动机），以及面向大众的网络搜索：按相关性排序（文档向量与 TF-IDF）和按网页质量排序、HTML、设计选择和搜索的未来。最后讨论推荐系统以及搜索引擎优化等排序带来的社会影响。

第7章：机器翻译

在展示当前机器翻译的质量和各种翻译需求之后，本章探讨跨语言的意义、类型学差异和翻译三角。它说明如何利用平行语料库和词对齐构建系统，对比统计机器翻译与神经机器翻译（包括编码器—解码器注意力和自注意力），介绍用于评估的 BLEU，并结合 1966 年的 ALPAC 报告反思这一任务为何比当初设想的更易处理。

第8章：对话系统

本章以《2001 太空漫游》中的 HAL 开篇，解释对话如何运作——语境、共同基础、非陈述性话语、话轮转换、格赖斯准则、预设与含义。随后讨论聊天机器人（ELIZA、微软的 Tay、Kuki 和 ChatGPT，以及"中文屋"思想实验）和数字助理（Siri、Google DialogFlow），包括它们如何构建和评估，以及图灵测试和维诺格拉德模式。

第9章：尾声

尾声退后一步，以一位假想的悲观者与一位乐观者辩论的形式，讨论语言技术在经济、教育和社会政治方面的影响，并提出供课堂讨论的问题。

核心概念

第1章：在计算机上编码语言

• 语言与文字：文字是记录语言的技术，而不是语言本身。
• Unicode 与 UTF-8：一个通用的字符清单以及把字符编码为字节的方案。
• 语图：随时间展示语音中各频率的可视化表示。

第2章：写作辅助工具

• 编辑距离：把一个字符串变成另一个字符串所需的最少插入、删除和替换次数。
• n 元语言模型：从数据中学习、根据前几个词预测下一个词的模型。
• 噪声信道模型：从受干扰的信号中推断原本要传达的信息。

第3章：计算机辅助语言学习

• 最近发展区：略高于学习者现有水平的输入。
• 学习者建模：追踪学习者已掌握的内容，以调整练习和反馈。
• 间隔重复：以逐渐拉长的间隔复习材料，帮助记忆。

第4章：作为数据的文本

• 齐普夫定律：少数词极其常见而大多数词很少见；常用词往往较短。
• 主题模型：发现能刻画文档特征的共现词群。
• 词向量：根据词出现的语境以数值方式表示词义。

第5章：文本分类

• 灵敏度与特异度：分类器找出阳性样本和避免假阳性的能力。
• 基础比率谬误：解读分类器输出时忽视某个类别本身有多罕见。
• 迁移学习：把在一个任务上训练的模型（如 BERT 的预训练）用于另一个任务。

第6章：搜索

• 信息需求：用户真正想要的东西，查询只是对它的近似。
• TF-IDF：根据词在某文档中的频率及其在整个文档集中的稀有程度为词加权。
• 知识图谱：连接实体及其关系的结构化数据。

第7章：机器翻译

• 翻译三角：表示越抽象，语言之间的差距越小的观点。
• 词对齐：在平行句子中把相互对应的词连接起来。
• 注意力机制：让翻译模型聚焦于输入中相关部分的神经网络机制。

第8章：对话系统

• 共同基础：对话参与者逐步建立起来的共享信息。
• 格赖斯准则与会话含义：使说话人能够传达言外之意的合作原则。
• 维诺格拉德模式：需要借助世界知识才能确定代词指代的成对测试句。

第9章：尾声

• 语言技术的社会影响：对工作、教育和政治的影响，读者被要求从多个角度加以权衡。

评析

优点

• 真正入门、面向所有人。 前言指出，阅读本书只需要对语言的好奇心和日常使用计算机的经验，本书希望同时欢迎"擅长人文"和"擅长计算"的学生；技术细节被放在可选的"幕后揭秘"专栏中，使正文保持易读。
• 以应用为切入点。 每章都从熟悉的工具——拼写检查器、多邻国、垃圾邮件过滤器、搜索引擎、谷歌翻译、聊天机器人——出发，回溯到其背后的语言学和计算原理，并展示同样的思想（分类、n 元语法、生成并排序、噪声信道）如何反复出现。
• 作为入门书内容较新。 第二版涵盖词向量、BERT、带注意力机制的神经机器翻译、ChatGPT 以及基准测试和排行榜，让学生在概念层面接触当前方法。
• 关注伦理与影响。 每章都以"影响"（Consequences）一节作结，语料库隐私与偏见、搜索引擎优化、微软的 Tay 以及基准测试的英语中心等话题与技术内容并列讨论；章末清单和练习有助于复习。

局限

• 不涉及编程。 本书讲解方法如何运作，但不教学生如何实现；想获得动手技能的学生需要另一本以编程为基础的教材。
• 语音部分较简略。 语音识别和语音合成在第 1 章介绍后便被搁置，全书以文本为主。
• 数据以英语为中心。 虽然讨论了文字系统和类型学差异，但大多数示例和第 4 章介绍的语料库都是英语的。
• 话题变化快。 关于 ChatGPT、数字助理和搜索的小节描述的是快速变化的产品，可能很快过时。

在课程中的定位

在"计算语言学与语料库语言学"书单中，本书是概念性的入门读物。它不要求编程，解释语言技术做什么以及为何有效，因此很适合在 Bird、Klein 和 Loper 的 Natural Language Processing with Python 之前阅读，后者教学生用 Python 实现类似的分析。Doing Corpus Linguistics 一般被认为是语料库方法的实践入门，可与本书第 4 章很好地搭配。

McEnery 和 Hardie 的 Corpus Linguistics: Method, Theory and Practice 以及 Gries 的 Quantitative Corpus Linguistics with R 在方法论和统计方面把语料库语言学这条线索推进得更远。Jurafsky 和 Martin 的 Speech and Language Processing 从技术上深入讲解本书第 2 章和第 5—8 章背后的算法；喜欢本书"幕后揭秘"专栏的学生，在掌握一定的编程和数学之后便可以转向该书。

如何使用本书

本书面向各种背景的本科生，包括语言学、人文学科和计算机科学的学生，它源于在俄亥俄州立大学和佐治亚理工学院开设的课程。请先读第 1 章，它提供语言、文字和编码的基本概念；之后第 2—8 章大体可以按顺序阅读，因为后面的章节建立在 n 元语法（第 2 章）、向量（第 4 章）和分类（第 5 章）的基础上。作者建议把第 3 章与第 7 章对照阅读，比较人与机器的多语能力。

复习时可以利用页边关键词和章末清单，挑选感兴趣的练习，想了解更多技术细节时阅读"幕后揭秘"部分。对于程度较高的学生，前言建议把本书与数字人文、计算社会科学和语料库语言学的研究论文阅读清单结合起来，让学生在课堂上报告；配套网站（https://osf.io/v7uqm/）提供示例教学大纲和课件。

版本与来源

本导读依据 Language and Computers 第二版（Language Science Press，2024 年，Textbooks in Language Sciences 14，CC BY 4.0），底本为 https://langsci-press.org/catalog/book/454 页面链接、托管于 Zenodo 的官方开放获取 PDF（DOI 10.5281/zenodo.12730906）。本导读参考了致谢和前言（目标、读者对象、使用方法）、包括所有小节和"幕后揭秘"专栏在内的完整目录，以及全部九章的开篇小节、"影响"小节和章末清单。