索引 / 001 ZH-TW
Introduction to Stochastic Processes with R(隨機過程導論:使用 R) cover

數學

數學

Introduction to Stochastic Processes with R(隨機過程導論:使用 R)

Robert P. Dobrow

英文原名: Introduction to Stochastic Processes with R

一本平易近人的大學隨機過程入門教科書,把理論與 R 語言模擬結合在一起。書中從條件機率出發,依序發展馬可夫鏈、分支過程、馬可夫鏈蒙地卡羅法、卜瓦松過程、連續時間馬可夫鏈與布朗運動,最後以溫和的方式初步介紹隨機微積分,並用多樣的應用例子說明每個主題。

需要的基礎: 修過以微積分為基礎的機率課與一些線性代數;不需要程式設計經驗,附錄有 R 語言的說明。

難度等級
中級
學術層次
大學部
stochastic processesmarkov chainspoisson processbrownian motionsimulation

01 / 導讀

導讀

引用

Dobrow, R. P. (2016). Introduction to Stochastic Processes with R. Wiley.

章節概要

全書約 500 頁:九章正文,之後是四個附錄(R 入門教學、機率複習、常用分配彙整與矩陣代數複習)以及部分奇數題習題的答案。根據出版社的統計,書中有 200 多個例題與 600 多道章末習題,配套網站提供書中使用的資料檔以及全部 R 程式碼與腳本。標有星號的節為選讀,最後一章整章也是選讀。

第1章:導論與複習

本章以細菌族群的指數成長及其對應的隨機出生模型為例,對照確定性模型與隨機模型,並透過 PageRank、Reed–Frost 流行病模型、大富翁桌遊、隨機漫步與賭徒破產問題、布朗運動等例子來定義隨機過程。在介紹蒙地卡羅模擬之後,本章以相當篇幅複習條件機率與條件期望值,包括隨機個隨機變數之和——這些是全書其餘部分所仰賴的工具。

第2章:馬可夫鏈:初步

初次討論離散時間馬可夫鏈:定義、一大批例子(「聚寶盆」)、以轉移矩陣進行的基本計算、關於長期行為的數值證據,以及模擬。一節選讀內容複習數學歸納法。

第3章:馬可夫鏈的長期行為

全書最長的一章,內容包括極限分配與穩定分配、狀態之間的可達性、不可約性、週期性、遍歷鏈、時間可逆性與吸收鏈。選讀各節討論再生與強馬可夫性質,並給出極限定理的證明。

第4章:分支過程

討論每個個體產生隨機數目後代的族群模型:世代平均規模、機率生成函數以及滅絕機率。

第5章:馬可夫鏈蒙地卡羅

把馬可夫鏈當作模擬工具。本章介紹 Metropolis–Hastings 演算法與吉布斯抽樣,選讀各節討論完美抽樣、收斂速度與特徵值的關聯,以及以全變差距離衡量的洗牌問題。

第6章:卜瓦松過程

討論到達時刻與到達間隔、無窮小機率、稀疏化與疊加、到達時刻的均勻分配、空間卜瓦松過程與非齊次卜瓦松過程,最後以題為「Parting Paradox」的一節作結。

第7章:連續時間馬可夫鏈

透過「鬧鐘」與轉移速率引入在連續時間中移動的鏈,接著討論無窮小生成元、長期行為、時間可逆性、等候理論與卜瓦松從屬。

第8章:布朗運動

把布朗運動視為隨機漫步的極限、視為高斯過程,並透過其變換與性質加以討論,之後是變形與應用,以及鞅的入門。

第9章:隨機微積分淺介*

選讀的最後一章,討論伊藤積分與隨機微分方程。出版社把 Black–Scholes 選擇權定價列為本書的主題之一。

核心概念

第1–3章:基礎與離散時間馬可夫鏈

  • 條件期望值:給定另一個隨機變數時某個隨機變數的期望值,其本身也被視為隨機變數。
  • 蒙地卡羅模擬:藉由多次模擬隨機過程來估計機率與期望值。
  • 轉移矩陣:由一步轉移機率組成的矩陣,其冪次給出多步行為。
  • 穩定分配與極限分配:鏈的長期行為,對遍歷鏈有保證。
  • 吸收鏈:最終停在無法離開之狀態的鏈,用於賭徒破產等問題。

第4–5章:分支過程與 MCMC

  • 機率生成函數:計算分支過程滅絕機率的工具。
  • Metropolis–Hastings 與吉布斯抽樣:建構以目標分配為穩定分配之馬可夫鏈的演算法。
  • 全變差距離:衡量鏈與穩定狀態接近程度的指標,應用於洗牌問題。

第6–7章:連續時間

  • 卜瓦松過程:到達間隔彼此獨立且服從指數分配的隨機到達。
  • 稀疏化與疊加:將卜瓦松過程拆分與合併。
  • 無窮小生成元:描述連續時間鏈的轉移速率矩陣。
  • 等候模型:描述顧客到達與接受服務的連續時間鏈。

第8–9章:布朗運動與隨機微積分

  • 布朗運動:作為隨機漫步極限而得到的連續時間、連續狀態過程,同時也是高斯過程。
  • 鞅:在給定現在的條件下,未來的期望值等於目前值的過程。
  • 伊藤積分與隨機微分方程:對布朗運動的積分,以及由它建構的方程式。

評析

優點

  • 模擬是內建的一部分。 R 不是附加內容,而是講解的一環:第1章引入蒙地卡羅模擬,第2章有一節談馬可夫鏈的模擬,標有「R」的習題引導讀者使用 Reed–Frost 模型等腳本檔,配套網站提供書中用到的全部程式碼。附錄A 協助讀者上手 R。
  • 例子來自多種領域。 光是第1章就涉及網頁搜尋、傳染病、桌遊、空氣監測與賭博,出版社也列出圖上的隨機漫步、洗牌、遺傳學、密碼學與選擇權定價等主題。例子簡短而具體。
  • 以入門書而言涵蓋面很廣。 除了標準的馬可夫鏈與卜瓦松過程,本書還包括分支過程、整整一章的馬可夫鏈蒙地卡羅、等候理論、布朗運動、鞅以及伊藤微積分的初步,課程可以自行決定重點。
  • 便於自修。 機率與矩陣代數的複習附錄、第1章對條件機率與條件期望值的長篇複習,以及部分奇數題的答案,使本書在課堂之外也能使用。

局限

  • 重廣度輕深度。 選讀的隨機微積分「淺介」只用約 30 頁處理伊藤積分與隨機微分方程;對財務或隨機微分方程有興趣的讀者,需要本課程中的專門教科書。目錄中並未把更新理論列為主題。
  • 部分證明列為選讀。 馬可夫鏈極限定理的證明放在第3章末標有星號的一節,因此略過星號內容的課程,所證明的結果少於所陳述的結果。
  • 以機率課程為前提。 第1章與附錄B 雖然複習機率,但步調很快;本書不是機率論第一門課的教材。
  • 綁定單一語言。 軟體支援只有 R;使用 Python 或其他語言的讀者需要自行改寫腳本。

在課程中的定位

本書是隨機過程課程最自然的第一本教科書,特別適合擅長透過模擬學習的學生。Sheldon Ross 的 Introduction to Probability Models 涵蓋相近的內容(馬可夫鏈、卜瓦松過程、連續時間鏈),更著重等候、可靠度與更新現象等應用,並附有大量例題;它可以與 Dobrow 搭配使用以取得更多習題,也可以作為替代的主教材。Sidney Resnick 的 Adventures in Stochastic Processes 對馬可夫鏈、更新過程與點過程、布朗運動與隨機漫步的處理更為嚴謹,適合在讀完第3、6、8章後作為下一步。

就財務與隨機微積分而言,Dobrow 的第9章只是預告。Steven Shreve 的 Stochastic Calculus for Finance I 在離散時間二項模型中展開鞅、測度變換與選擇權定價,與本書第3章、第8章搭配良好。之後,Bernt Øksendal 的 Stochastic Differential Equations、Lamberton 與 Lapeyre 的 Introduction to Stochastic Calculus Applied to Finance,以及 Tomas Björk 的 Arbitrage Theory in Continuous Time,會完整講授伊藤微積分與連續時間財務。

如何使用本書

本書適合修過一門以微積分為基礎的機率課以及一些線性代數的數學、統計、理工科大學部學生;出版社也提到研究所一年級學生,以及想複習此主題的應用數學與統計工作者。初次接觸 R 的讀者可從附錄A 入手。

一學期課程的閱讀計畫:

  • 核心: 第1章(機率底子扎實的話可快速瀏覽複習部分,但要做條件期望值的例題)、第2章與第3章、第6章與第7章。
  • 擇一到兩章: 族群模型選第4章,模擬與貝氏計算選第5章,布朗運動與鞅選第8章。
  • 選讀: 標有星號的各節(包括第3章極限定理的證明),以及為準備學習財務的學生而設的第9章。

邊讀邊執行配套網站上的 R 腳本:先模擬一條鏈,再把模擬結果與書中算出的精確穩定分配或吸收機率相比較。做解析習題的同時也做標有「R」的習題,奇數題可對照書末的答案。