索引 / 001 ZH-TW
Language and Computers(語言與電腦) cover

語言學

語言學

Language and Computers(語言與電腦)

Lelia Glass; Markus Dickinson; Chris Brew; Detmar Meurers

英文原名: Language and Computers

本書由 Language Science Press 出版,是一本開放取用的入門書,介紹電腦如何處理與產生人類語言。本書為不同背景的學生撰寫,說明常見語言科技背後的語言學概念,並討論其倫理與社會影響,不預設讀者修過資訊科學。

需要的基礎: 不需要程式設計或資訊科學基礎,對語言有興趣即可。

難度等級
入門
學術層次
大學部
computational linguisticsnatural language processingmachine translationlanguage technologyopen textbook

01 / 導讀

導讀

引用

Glass, L., Dickinson, M., Brew, C., & Meurers, D. (2024). Language and Computers (2nd ed.; Textbooks in Language Sciences 14). Language Science Press. Free official edition: https://langsci-press.org/catalog/book/454

章節概要

第1章:在電腦上編碼語言

本書以霍凱特的語言設計特徵追問「語言是什麼」,並把語言與文字區分開來。接著概述各種文字系統(字母文字、輔音音素文字、元音附標文字、音節文字與語素文字),電腦如何以二進位數字、ASCII 與 Unicode/UTF-8 表示文本,以及如何藉助國際音標與聲譜圖記錄並從聲學上分析語音。簡短的小節介紹自動語音辨識與語音合成,之後本書把語音放在一旁,專注於文本。「幕後探祕」(Under the Hood)專欄討論表情符號、線上零工平台以及如何判讀聲譜圖。

第2章:寫作輔助工具

本章從英文拼寫的歷史談起,說明拼寫錯誤的類型以及如何打造一個簡單的拼字檢查器(「幕後探祕」專欄介紹彼得·諾維格的拼字檢查器,以及用來計算編輯距離的動態規劃)。它引入 n 元語法與簡單的生成式語言模型,接著討論以片語結構語法與依存語法進行的文法檢查、描述語法與規範語法、語言的形式複雜度、文體檢查器,以及自動完成與 ChatGPT 等生成工具。最後一節把這些概念與雜訊通道模型以及後續章節連結起來。

第3章:電腦輔助語言學習

本章比較第一語言與第二語言的習得,以及影響二語學習成敗的因素,並探討電腦輔助語言學習(CALL)系統為何需要「智慧」。它討論語言建模與學習者建模,並以兩個系統為例——依據德國七年級英文教科書開發的智慧家教系統 FeedBook,以及多鄰國(Duolingo,包括間隔重複與 A/B 測試),最後討論這類工具如何評估及其對語言教育的意義。

第4章:作為資料的文本

本書在此從知識驅動的應用轉向讓資料說話。本章概述數位人文、語料庫語言學、計算社會科學與作者剖析中的「文本即資料」研究,介紹現有的英文語料庫及其後設資料,以及隱私與偏見等倫理問題。接著檢視詞語的分布規律(功能詞與實詞、詞型與詞例、齊夫冪律與簡潔律)、主題模型,以及從詞—脈絡矩陣到脈絡化表徵的詞義向量表示;「幕後探祕」專欄討論伏尼契手稿。

第5章:文本分類

本章以垃圾郵件過濾為主要例子,說明電腦如何從帶標籤的資料中「學習」,如何衡量成效(敏感度、特異度、基本比率與基本比率謬誤、過度擬合),並介紹單純貝氏與感知器等分類器。它簡述遷移學習與 BERT 的訓練任務,區分監督式學習與非監督式學習,討論情感分析以及基準測試與排行榜及其限制。

第6章:搜尋

本章從一個資訊需求——在網路上尋找老朋友——談起,涵蓋結構化資料、知識圖譜與本體、問答系統、為專業人士設計的布林檢索(「幕後探祕」專欄介紹正規表示式與有限狀態自動機),以及大眾使用的網路搜尋:依相關性排序(文件向量與 TF-IDF)與依網頁品質排序、HTML、設計抉擇與搜尋的未來。最後討論推薦系統,以及搜尋引擎最佳化等排序帶來的社會影響。

第7章:機器翻譯

在展示當前機器翻譯的品質與各種翻譯需求之後,本章探討跨語言的意義、類型學差異與翻譯三角。它說明如何以平行語料庫與詞對齊建構系統,對比統計機器翻譯與神經機器翻譯(包括編碼器—解碼器注意力與自注意力),介紹用於評估的 BLEU,並結合 1966 年的 ALPAC 報告,反思這項任務為何比當初設想的更容易處理。

第8章:對話系統

本章以《2001 太空漫遊》中的 HAL 開場,說明對話如何運作——脈絡、共同基礎、非陳述性話語、話輪轉換、格萊斯準則、預設與隱含。接著討論聊天機器人(ELIZA、微軟的 Tay、Kuki 與 ChatGPT,以及「中文房間」思想實驗)與數位助理(Siri、Google DialogFlow),包括如何建構與評估,以及圖靈測試與維諾格拉德模式。

第9章:尾聲

尾聲退後一步,以一位假想的悲觀者與一位樂觀者辯論的形式,討論語言科技在經濟、教育與社會政治方面的影響,並提出供課堂討論的問題。

核心概念

第1章:在電腦上編碼語言

  • 語言與文字:文字是記錄語言的技術,而非語言本身。
  • Unicode 與 UTF-8:一套通用的字元清單,以及把字元編碼為位元組的方案。
  • 聲譜圖:隨時間呈現語音中各頻率的視覺化表示。

第2章:寫作輔助工具

  • 編輯距離:把一個字串變成另一個字串所需的最少插入、刪除與替換次數。
  • n 元語言模型:從資料中學習、依據前幾個詞預測下一個詞的模型。
  • 雜訊通道模型:從受干擾的訊號推斷原本要傳達的訊息。

第3章:電腦輔助語言學習

  • 近側發展區:略高於學習者現有程度的輸入。
  • 學習者建模:追蹤學習者已掌握的內容,以調整練習與回饋。
  • 間隔重複:以逐漸拉長的間隔複習材料,幫助記憶。

第4章:作為資料的文本

  • 齊夫定律:少數詞極為常見而多數詞相當罕見;常用詞往往較短。
  • 主題模型:找出能刻畫文件特徵的共現詞群。
  • 詞向量:依據詞出現的脈絡以數值方式表示詞義。

第5章:文本分類

  • 敏感度與特異度:分類器找出陽性樣本與避免偽陽性的能力。
  • 基本比率謬誤:解讀分類器輸出時忽略某類別本身有多罕見。
  • 遷移學習:把在某項任務上訓練的模型(如 BERT 的預訓練)用於另一項任務。

第6章:搜尋

  • 資訊需求:使用者真正想要的東西,查詢只是對它的近似。
  • TF-IDF:依據詞在某文件中的頻率及其在整個文件集中的稀有程度為詞加權。
  • 知識圖譜:連結實體及其關係的結構化資料。

第7章:機器翻譯

  • 翻譯三角:表徵越抽象,語言之間的差距越小的觀點。
  • 詞對齊:在平行句子中把彼此對應的詞連起來。
  • 注意力機制:讓翻譯模型聚焦於輸入中相關部分的神經網路機制。

第8章:對話系統

  • 共同基礎:對話參與者逐步建立的共享資訊。
  • 格萊斯準則與隱含:讓說話者能傳達言外之意的合作原則。
  • 維諾格拉德模式:需要藉助世界知識才能判定代名詞指涉的成對測試句。

第9章:尾聲

  • 語言科技的社會影響:對工作、教育與政治的影響,讀者被要求從多個角度加以權衡。

評析

優點

  • 真正入門、對所有人開放。 前言指出,閱讀本書只需要對語言的好奇心與日常使用電腦的經驗,本書希望同時歡迎「擅長人文」與「擅長運算」的學生;技術細節被放在可選讀的「幕後探祕」專欄中,讓正文保持易讀。
  • 以應用為切入點。 每章都從熟悉的工具——拼字檢查器、多鄰國、垃圾郵件過濾器、搜尋引擎、Google 翻譯、聊天機器人——出發,回溯其背後的語言學與運算原理,並顯示相同的概念(分類、n 元語法、產生並排序、雜訊通道)如何一再出現。
  • 以入門書而言內容新穎。 第二版涵蓋詞向量、BERT、具注意力機制的神經機器翻譯、ChatGPT 以及基準測試與排行榜,讓學生在概念層次接觸當前的方法。
  • 關注倫理與影響。 每章都以「影響」(Consequences)一節作結,語料庫隱私與偏見、搜尋引擎最佳化、微軟的 Tay,以及基準測試的英語中心等議題與技術內容並陳;章末清單與練習有助於複習。

局限

  • 不涉及程式設計。 本書說明方法如何運作,但不教學生如何實作;想培養動手技能的學生需要另一本以程式為基礎的教材。
  • 語音部分較為簡略。 語音辨識與語音合成在第 1 章介紹後即被擱置,全書以文本為主。
  • 資料以英語為中心。 雖然討論了文字系統與類型學差異,但多數範例以及第 4 章介紹的語料庫都是英語的。
  • 主題變化快速。 關於 ChatGPT、數位助理與搜尋的小節描述的是快速變動的產品,可能很快過時。

在課程中的定位

在「計算語言學與語料庫語言學」書單中,本書是概念性的入門讀物。它不要求程式設計,說明語言科技做什麼以及為何有效,因此很適合在 Bird、Klein 與 Loper 的 Natural Language Processing with Python 之前閱讀,後者教學生用 Python 實作類似的分析。Doing Corpus Linguistics 一般被認為是語料庫方法的實作入門,可與本書第 4 章良好搭配。

McEnery 與 Hardie 的 Corpus Linguistics: Method, Theory and Practice 以及 Gries 的 Quantitative Corpus Linguistics with R 在方法論與統計上把語料庫語言學這條脈絡推得更遠。Jurafsky 與 Martin 的 Speech and Language Processing 從技術上深入講解本書第 2 章與第 5—8 章背後的演算法;喜歡本書「幕後探祕」專欄的學生,在具備一定的程式與數學能力之後,便可轉向該書。

如何使用本書

本書以各種背景的大學生為對象,包括語言學、人文學科與資訊科學的學生,它源自在俄亥俄州立大學與喬治亞理工學院開設的課程。請先讀第 1 章,它提供語言、文字與編碼的基本概念;之後第 2—8 章大致可依序閱讀,因為後面各章建立在 n 元語法(第 2 章)、向量(第 4 章)與分類(第 5 章)的基礎上。作者建議把第 3 章與第 7 章對照閱讀,比較人與機器的多語能力。

複習時可利用頁緣關鍵詞與章末清單,挑選有興趣的練習,想了解更多技術細節時閱讀「幕後探祕」部分。對程度較高的學生,前言建議把本書與數位人文、計算社會科學與語料庫語言學的研究論文閱讀清單結合,讓學生在課堂上報告;配套網站(https://osf.io/v7uqm/)提供範例課綱與投影片。

版本與來源

本導讀依據 Language and Computers 第二版(Language Science Press,2024 年,Textbooks in Language Sciences 14,CC BY 4.0),底本為 https://langsci-press.org/catalog/book/454 頁面所連結、存放於 Zenodo 的官方開放取用 PDF(DOI 10.5281/zenodo.12730906)。本導讀參考了致謝與前言(目標、讀者對象、使用方法)、包含所有小節與「幕後探祕」專欄在內的完整目次,以及全部九章的開頭小節、「影響」小節與章末清單。