01 / 導讀
導讀
引用
Glass, L., Dickinson, M., Brew, C., & Meurers, D. (2024). Language and Computers (2nd ed.; Textbooks in Language Sciences 14). Language Science Press. Free official edition: https://langsci-press.org/catalog/book/454
章節概要
第1章:在電腦上編碼語言
本書以霍凱特的語言設計特徵追問「語言是什麼」,並把語言與文字區分開來。接著概述各種文字系統(字母文字、輔音音素文字、元音附標文字、音節文字與語素文字),電腦如何以二進位數字、ASCII 與 Unicode/UTF-8 表示文本,以及如何藉助國際音標與聲譜圖記錄並從聲學上分析語音。簡短的小節介紹自動語音辨識與語音合成,之後本書把語音放在一旁,專注於文本。「幕後探祕」(Under the Hood)專欄討論表情符號、線上零工平台以及如何判讀聲譜圖。
第2章:寫作輔助工具
本章從英文拼寫的歷史談起,說明拼寫錯誤的類型以及如何打造一個簡單的拼字檢查器(「幕後探祕」專欄介紹彼得·諾維格的拼字檢查器,以及用來計算編輯距離的動態規劃)。它引入 n 元語法與簡單的生成式語言模型,接著討論以片語結構語法與依存語法進行的文法檢查、描述語法與規範語法、語言的形式複雜度、文體檢查器,以及自動完成與 ChatGPT 等生成工具。最後一節把這些概念與雜訊通道模型以及後續章節連結起來。
第3章:電腦輔助語言學習
本章比較第一語言與第二語言的習得,以及影響二語學習成敗的因素,並探討電腦輔助語言學習(CALL)系統為何需要「智慧」。它討論語言建模與學習者建模,並以兩個系統為例——依據德國七年級英文教科書開發的智慧家教系統 FeedBook,以及多鄰國(Duolingo,包括間隔重複與 A/B 測試),最後討論這類工具如何評估及其對語言教育的意義。
第4章:作為資料的文本
本書在此從知識驅動的應用轉向讓資料說話。本章概述數位人文、語料庫語言學、計算社會科學與作者剖析中的「文本即資料」研究,介紹現有的英文語料庫及其後設資料,以及隱私與偏見等倫理問題。接著檢視詞語的分布規律(功能詞與實詞、詞型與詞例、齊夫冪律與簡潔律)、主題模型,以及從詞—脈絡矩陣到脈絡化表徵的詞義向量表示;「幕後探祕」專欄討論伏尼契手稿。
第5章:文本分類
本章以垃圾郵件過濾為主要例子,說明電腦如何從帶標籤的資料中「學習」,如何衡量成效(敏感度、特異度、基本比率與基本比率謬誤、過度擬合),並介紹單純貝氏與感知器等分類器。它簡述遷移學習與 BERT 的訓練任務,區分監督式學習與非監督式學習,討論情感分析以及基準測試與排行榜及其限制。
第6章:搜尋
本章從一個資訊需求——在網路上尋找老朋友——談起,涵蓋結構化資料、知識圖譜與本體、問答系統、為專業人士設計的布林檢索(「幕後探祕」專欄介紹正規表示式與有限狀態自動機),以及大眾使用的網路搜尋:依相關性排序(文件向量與 TF-IDF)與依網頁品質排序、HTML、設計抉擇與搜尋的未來。最後討論推薦系統,以及搜尋引擎最佳化等排序帶來的社會影響。
第7章:機器翻譯
在展示當前機器翻譯的品質與各種翻譯需求之後,本章探討跨語言的意義、類型學差異與翻譯三角。它說明如何以平行語料庫與詞對齊建構系統,對比統計機器翻譯與神經機器翻譯(包括編碼器—解碼器注意力與自注意力),介紹用於評估的 BLEU,並結合 1966 年的 ALPAC 報告,反思這項任務為何比當初設想的更容易處理。
第8章:對話系統
本章以《2001 太空漫遊》中的 HAL 開場,說明對話如何運作——脈絡、共同基礎、非陳述性話語、話輪轉換、格萊斯準則、預設與隱含。接著討論聊天機器人(ELIZA、微軟的 Tay、Kuki 與 ChatGPT,以及「中文房間」思想實驗)與數位助理(Siri、Google DialogFlow),包括如何建構與評估,以及圖靈測試與維諾格拉德模式。
第9章:尾聲
尾聲退後一步,以一位假想的悲觀者與一位樂觀者辯論的形式,討論語言科技在經濟、教育與社會政治方面的影響,並提出供課堂討論的問題。
核心概念
第1章:在電腦上編碼語言
- 語言與文字:文字是記錄語言的技術,而非語言本身。
- Unicode 與 UTF-8:一套通用的字元清單,以及把字元編碼為位元組的方案。
- 聲譜圖:隨時間呈現語音中各頻率的視覺化表示。
第2章:寫作輔助工具
- 編輯距離:把一個字串變成另一個字串所需的最少插入、刪除與替換次數。
- n 元語言模型:從資料中學習、依據前幾個詞預測下一個詞的模型。
- 雜訊通道模型:從受干擾的訊號推斷原本要傳達的訊息。
第3章:電腦輔助語言學習
- 近側發展區:略高於學習者現有程度的輸入。
- 學習者建模:追蹤學習者已掌握的內容,以調整練習與回饋。
- 間隔重複:以逐漸拉長的間隔複習材料,幫助記憶。
第4章:作為資料的文本
- 齊夫定律:少數詞極為常見而多數詞相當罕見;常用詞往往較短。
- 主題模型:找出能刻畫文件特徵的共現詞群。
- 詞向量:依據詞出現的脈絡以數值方式表示詞義。
第5章:文本分類
- 敏感度與特異度:分類器找出陽性樣本與避免偽陽性的能力。
- 基本比率謬誤:解讀分類器輸出時忽略某類別本身有多罕見。
- 遷移學習:把在某項任務上訓練的模型(如 BERT 的預訓練)用於另一項任務。
第6章:搜尋
- 資訊需求:使用者真正想要的東西,查詢只是對它的近似。
- TF-IDF:依據詞在某文件中的頻率及其在整個文件集中的稀有程度為詞加權。
- 知識圖譜:連結實體及其關係的結構化資料。
第7章:機器翻譯
- 翻譯三角:表徵越抽象,語言之間的差距越小的觀點。
- 詞對齊:在平行句子中把彼此對應的詞連起來。
- 注意力機制:讓翻譯模型聚焦於輸入中相關部分的神經網路機制。
第8章:對話系統
- 共同基礎:對話參與者逐步建立的共享資訊。
- 格萊斯準則與隱含:讓說話者能傳達言外之意的合作原則。
- 維諾格拉德模式:需要藉助世界知識才能判定代名詞指涉的成對測試句。
第9章:尾聲
- 語言科技的社會影響:對工作、教育與政治的影響,讀者被要求從多個角度加以權衡。
評析
優點
- 真正入門、對所有人開放。 前言指出,閱讀本書只需要對語言的好奇心與日常使用電腦的經驗,本書希望同時歡迎「擅長人文」與「擅長運算」的學生;技術細節被放在可選讀的「幕後探祕」專欄中,讓正文保持易讀。
- 以應用為切入點。 每章都從熟悉的工具——拼字檢查器、多鄰國、垃圾郵件過濾器、搜尋引擎、Google 翻譯、聊天機器人——出發,回溯其背後的語言學與運算原理,並顯示相同的概念(分類、n 元語法、產生並排序、雜訊通道)如何一再出現。
- 以入門書而言內容新穎。 第二版涵蓋詞向量、BERT、具注意力機制的神經機器翻譯、ChatGPT 以及基準測試與排行榜,讓學生在概念層次接觸當前的方法。
- 關注倫理與影響。 每章都以「影響」(Consequences)一節作結,語料庫隱私與偏見、搜尋引擎最佳化、微軟的 Tay,以及基準測試的英語中心等議題與技術內容並陳;章末清單與練習有助於複習。
局限
- 不涉及程式設計。 本書說明方法如何運作,但不教學生如何實作;想培養動手技能的學生需要另一本以程式為基礎的教材。
- 語音部分較為簡略。 語音辨識與語音合成在第 1 章介紹後即被擱置,全書以文本為主。
- 資料以英語為中心。 雖然討論了文字系統與類型學差異,但多數範例以及第 4 章介紹的語料庫都是英語的。
- 主題變化快速。 關於 ChatGPT、數位助理與搜尋的小節描述的是快速變動的產品,可能很快過時。
在課程中的定位
在「計算語言學與語料庫語言學」書單中,本書是概念性的入門讀物。它不要求程式設計,說明語言科技做什麼以及為何有效,因此很適合在 Bird、Klein 與 Loper 的 Natural Language Processing with Python 之前閱讀,後者教學生用 Python 實作類似的分析。Doing Corpus Linguistics 一般被認為是語料庫方法的實作入門,可與本書第 4 章良好搭配。
McEnery 與 Hardie 的 Corpus Linguistics: Method, Theory and Practice 以及 Gries 的 Quantitative Corpus Linguistics with R 在方法論與統計上把語料庫語言學這條脈絡推得更遠。Jurafsky 與 Martin 的 Speech and Language Processing 從技術上深入講解本書第 2 章與第 5—8 章背後的演算法;喜歡本書「幕後探祕」專欄的學生,在具備一定的程式與數學能力之後,便可轉向該書。
如何使用本書
本書以各種背景的大學生為對象,包括語言學、人文學科與資訊科學的學生,它源自在俄亥俄州立大學與喬治亞理工學院開設的課程。請先讀第 1 章,它提供語言、文字與編碼的基本概念;之後第 2—8 章大致可依序閱讀,因為後面各章建立在 n 元語法(第 2 章)、向量(第 4 章)與分類(第 5 章)的基礎上。作者建議把第 3 章與第 7 章對照閱讀,比較人與機器的多語能力。
複習時可利用頁緣關鍵詞與章末清單,挑選有興趣的練習,想了解更多技術細節時閱讀「幕後探祕」部分。對程度較高的學生,前言建議把本書與數位人文、計算社會科學與語料庫語言學的研究論文閱讀清單結合,讓學生在課堂上報告;配套網站(https://osf.io/v7uqm/)提供範例課綱與投影片。
版本與來源
本導讀依據 Language and Computers 第二版(Language Science Press,2024 年,Textbooks in Language Sciences 14,CC BY 4.0),底本為 https://langsci-press.org/catalog/book/454 頁面所連結、存放於 Zenodo 的官方開放取用 PDF(DOI 10.5281/zenodo.12730906)。本導讀參考了致謝與前言(目標、讀者對象、使用方法)、包含所有小節與「幕後探祕」專欄在內的完整目次,以及全部九章的開頭小節、「影響」小節與章末清單。
