索引 / 001 ZH-CN
Introduction to Stochastic Processes with R(随机过程导论:基于 R) cover

数学

数学

Introduction to Stochastic Processes with R(随机过程导论:基于 R)

Robert P. Dobrow

英文原名: Introduction to Stochastic Processes with R

一本通俗易懂的本科随机过程入门教材,把理论与 R 语言模拟结合起来。书中从条件概率出发,依次讲解马尔可夫链、分支过程、马尔可夫链蒙特卡罗方法、泊松过程、连续时间马尔可夫链和布朗运动,最后对随机微积分作简明的初步介绍,并以多种应用实例说明各个主题。

需要的基础: 一门基于微积分的概率课程和一些线性代数;不要求编程经验,附录介绍 R 语言。

难度等级
中级
学术层次
本科
stochastic processesmarkov chainspoisson processbrownian motionsimulation

01 / 导读

导读

引用

Dobrow, R. P. (2016). Introduction to Stochastic Processes with R. Wiley.

章节概要

全书约 500 页:九章正文,之后是四个附录(R 入门教程、概率复习、常用分布汇总和矩阵代数复习)以及部分奇数号习题的答案。据出版社统计,书中有 200 多个例题和 600 多道章末习题,配套网站提供书中用到的数据文件和全部 R 代码与脚本。带星号的节为选读内容,最后一章整章也是选读。

第1章:引言与复习

本章以细菌种群的指数增长及与之对应的随机出生模型为例,对比确定性模型与随机模型,并通过 PageRank、Reed–Frost 流行病模型、大富翁棋盘游戏、随机游走与赌徒破产问题、布朗运动等例子来定义随机过程。在介绍蒙特卡罗模拟之后,本章用较长篇幅复习条件概率和条件期望,包括随机个随机变量之和——这些是全书其余部分依赖的工具。

第2章:马尔可夫链:初步

初次讨论离散时间马尔可夫链:定义、一大批例子(“聚宝盆”)、用转移矩阵进行的基本计算、关于长期行为的数值证据以及模拟。一节选读内容复习数学归纳法。

第3章:马尔可夫链的长期行为

全书最长的一章,内容包括极限分布与平稳分布、状态之间的可达性、不可约性、周期性、遍历链、时间可逆性和吸收链。选读各节讨论再生与强马尔可夫性,并给出极限定理的证明。

第4章:分支过程

讨论每个个体产生随机数目后代的种群模型:代际平均规模、概率母函数以及灭绝概率。

第5章:马尔可夫链蒙特卡罗

把马尔可夫链当作模拟工具。本章介绍 Metropolis–Hastings 算法和吉布斯抽样,选读各节讨论完美抽样、收敛速度与特征值的联系,以及用全变差距离衡量的洗牌问题。

第6章:泊松过程

讨论到达时刻与到达间隔、无穷小概率、稀释与叠加、到达时刻的均匀分布、空间泊松过程和非齐次泊松过程,最后以题为“Parting Paradox”的一节收尾。

第7章:连续时间马尔可夫链

通过“闹钟”和转移速率引入在连续时间中运动的链,随后讨论无穷小生成元、长期行为、时间可逆性、排队论和泊松从属。

第8章:布朗运动

把布朗运动作为随机游走的极限、作为高斯过程,并通过其变换与性质来讨论,之后是变体与应用,以及鞅的入门。

第9章:随机微积分浅介*

选读的最后一章,讨论伊藤积分和随机微分方程。出版社把 Black–Scholes 期权定价列为本书话题之一。

核心概念

第1–3章:基础与离散时间马尔可夫链

  • 条件期望:给定另一个随机变量时某个随机变量的期望,其本身也被当作随机变量。
  • 蒙特卡罗模拟:通过多次模拟随机过程来估计概率和期望。
  • 转移矩阵:由一步转移概率组成的矩阵,其幂给出多步行为。
  • 平稳分布与极限分布:链的长期行为,对遍历链有保证。
  • 吸收链:最终停留在无法离开的状态的链,用于赌徒破产等问题。

第4–5章:分支过程与 MCMC

  • 概率母函数:计算分支过程灭绝概率的工具。
  • Metropolis–Hastings 与吉布斯抽样:构造以目标分布为平稳分布的马尔可夫链的算法。
  • 全变差距离:衡量链与平稳状态接近程度的指标,应用于洗牌问题。

第6–7章:连续时间

  • 泊松过程:到达间隔相互独立且服从指数分布的随机到达。
  • 稀释与叠加:对泊松过程进行拆分与合并。
  • 无穷小生成元:描述连续时间链的转移速率矩阵。
  • 排队模型:描述顾客到达和接受服务的连续时间链。

第8–9章:布朗运动与随机微积分

  • 布朗运动:作为随机游走极限得到的连续时间、连续状态过程,同时也是高斯过程。
  • 鞅:在给定现在的条件下,未来的期望值等于当前值的过程。
  • 伊藤积分与随机微分方程:关于布朗运动的积分,以及由它构建的方程。

评析

优点

  • 模拟是内在组成部分。 R 不是附加内容,而是讲解的一部分:第1章引入蒙特卡罗模拟,第2章有一节讲马尔可夫链的模拟,标有“R”的习题引导读者使用 Reed–Frost 模型等脚本文件,配套网站提供书中用到的全部代码。附录A 帮助读者上手 R。
  • 例子来自多个领域。 仅第1章就涉及网页搜索、传染病、棋盘游戏、空气监测和赌博,出版社还列出了图上的随机游走、洗牌、遗传学、密码学和期权定价等话题。例子简短而具体。
  • 作为入门书覆盖面很广。 除了标准的马尔可夫链和泊松过程,本书还包括分支过程、整整一章的马尔可夫链蒙特卡罗、排队论、布朗运动、鞅以及伊藤微积分的初步,课程可以自行选择侧重点。
  • 便于自学。 概率和矩阵代数的复习附录、第1章对条件概率和条件期望的长篇复习,以及部分奇数号习题的答案,使本书在课堂之外也能使用。

局限

  • 重广度轻深度。 选读的随机微积分“浅介”只用约 30 页讲伊藤积分和随机微分方程;对金融或随机微分方程感兴趣的读者需要本课程中的专门教材。目录中没有把更新理论列为话题。
  • 部分证明为选读。 马尔可夫链极限定理的证明放在第3章末带星号的一节中,因此跳过星号内容的课程,所证明的结论少于所陈述的结论。
  • 以概率论课程为前提。 第1章和附录B 虽然复习了概率,但节奏很快;本书不是概率论的第一门课程教材。
  • 绑定单一语言。 软件支持只有 R;使用 Python 或其他语言的读者需要自行改写脚本。

在课程中的定位

本书是随机过程课程最自然的第一本教材,尤其适合善于通过模拟来学习的学生。Sheldon Ross 的 Introduction to Probability Models 覆盖相近的内容(马尔可夫链、泊松过程、连续时间链),更侧重排队、可靠性和更新现象等应用,并附有大量例题;它既可以与 Dobrow 配合使用以获得更多习题,也可以作为替代的主教材。Sidney Resnick 的 Adventures in Stochastic Processes 对马尔可夫链、更新过程与点过程、布朗运动和随机游走的处理更为严格,适合在读完第3、6、8章之后作为下一步。

就金融和随机微积分而言,Dobrow 的第9章只是预告。Steven Shreve 的 Stochastic Calculus for Finance I 在离散时间二项模型中展开鞅、测度变换和期权定价,与本书第3章和第8章搭配良好。之后,Bernt Øksendal 的 Stochastic Differential Equations、Lamberton 和 Lapeyre 的 Introduction to Stochastic Calculus Applied to Finance 以及 Tomas Björk 的 Arbitrage Theory in Continuous Time 会全面讲授伊藤微积分和连续时间金融。

如何使用本书

本书适合修过一门基于微积分的概率课和一些线性代数的数学、统计、理科和工科本科生;出版社也提到研究生一年级学生,以及希望复习这一主题的应用数学和统计工作者。初次接触 R 的读者可从附录A 入手。

一学期课程的阅读计划:

  • 核心: 第1章(概率基础扎实的话可快速浏览复习部分,但要做条件期望的例题)、第2章和第3章、第6章和第7章。
  • 任选一到两章: 种群模型选第4章,模拟与贝叶斯计算选第5章,布朗运动和鞅选第8章。
  • 选读: 带星号的各节(包括第3章极限定理的证明),以及为准备学习金融的学生准备的第9章。

边读边运行配套网站上的 R 脚本:先模拟一条链,再把模拟结果与书中算出的精确平稳分布或吸收概率进行比较。在做解析习题的同时也做标有“R”的习题,奇数号习题可以对照书后的答案。