EECS应用概率论

第1章　PageRank—A1

1.1　模型1

1.2　马尔可夫链3

1.2.1　定义3

1.2.2　n 步后的分布和稳态分布4

第1章　PageRank—A1

1.1　模型1

1.2　马尔可夫链3

1.2.1　定义3

1.2.2　n 步后的分布和稳态分布4

1.3　分析5

1.3.1　不可约性和非周期性5

1.3.2　大数定律5

1.3.3　长期时间比例6

1.4　击中时间7

1.4.1　平均击中时间7

1.4.2　击中另一状态之前命中某一状态的概率8

1.4.3　马尔可夫链的首步方程9

1.5　小结10

1.6　参考资料10

1.7　练习11

第2章　PageRank—B15

2.1　样本空间15

2.2　投掷硬币的大数定律17

2.2.1　依概率收敛17

2.2.2　几乎处处收敛18

2.3　独立同分布随机变量的大数定律20

2.3.1　弱大数定律20

2.3.2　强大数定律21

2.4　马尔可夫链的大数定律22

2.5　期望的收敛23

2.6　大定理的证明25

2.6.1　定理1.2(a)的证明25

2.6.2　定理1.2(b)的证明26

2.6.3　周期性27

2.7　小结29

2.8　参考资料29

2.9　练习30

第3章　多路复用—A31

3.1　链路共享32

3.2　高斯随机变量与中心极限定理34

3.3　多路复用与高斯分布37

3.4　置信区间37

3.5　缓冲器39

3.6　多址访问43

3.7　小结44

3.8　参考资料45

3.9　练习45

第4章　多路复用—B47

4.1　特征方程47

4.2　中心极限定理的证明（概要）48

4.3　N(0,1)的高阶矩49

4.4　两个独立同分布于N (0,1)的随机变量平方和50

4.5　特征函数的两个应用51

4.5.1　泊松分布作为二项分布的近似51

4.5.2　指数分布作为几何分布的近似51

4.6　误差函数52

4.7　自适应多址访问53

4.8　小结55

4.9　参考资料55

4.10　练习55

第5章　数字链路—A57

5.1　检测与贝叶斯准则58

5.1.1　贝叶斯准则58

5.1.2　最大后验概率（MAP）与最大似然估计（MLE） 59

5.1.3　二元对称信道60

5.2　霍夫曼编码62

5.3　高斯信道64

5.4　多维高斯信道66

5.5　假设检验67

5.5.1　规范化问题68

5.5.2　解答68

5.5.3　示例69

5.6　小结75

5.7　参考资料76

5.8　练习76

第6章　数字链路—B79

6.1　霍夫曼编码最优性的证明79

6.2　低密度奇偶校验码（LDPC码）80

6.3　联合高斯分布随机变量85

6.4　联合高斯分布随机变量的密度函数86

6.5　奈曼-皮尔逊定理5.6的证明88

6.6　小结89

6.7　参考资料90

6.8　练习90

第7章　追踪定位—A91

7.1　估计问题92

7.2　线性最小平方估计（LLSE） 93

7.3　线性回归97

7.4　最小均方估计（MMSE）98

7.5　随机向量的情况104

7.6　卡尔曼滤波器106

7.6.1　滤波器106

7.6.2　示例107

7.7　小结110

7.8　参考资料110

7.9　练习 111

第8章　追踪定位—B115

8.1　LLSE的更新115

8.2　卡尔曼滤波器的推导116

8.3　卡尔曼滤波器的特性118

8.3.1　可观测性119

8.3.2　可达性120

8.4　扩展卡尔曼滤波器121

8.5　小结124

8.6　参考资料124

第9章　语音识别—A125

9.1　学习：概念和示例125

9.2　隐马尔可夫链126

9.3　期望最大化和聚类129

9.3.1　一个简单的聚类问题129

9.3.2　回首再探130

9.4　学习：隐马尔可夫链132

9.4.1　硬期望最大化132

9.4.2　训练维特比算法132

9.5　小结132

9.6　参考资料133

9.7　练习133

第10章　语音识别—B135

10.1　在线线性回归135

10.2　随机梯度投影理论136

10.2.1　梯度投影137

10.2.2　随机梯度投影算法140

10.2.3　鞅收敛定理142

10.3　大数据143

10.3.1　相关数据143

10.3.2　压缩感知147

10.3.3　推荐系统150

10.4　小结151

10.5　参考资料151

10.6　练习151

第11章　路线规划—A153

11.1　系统建模153

11.2　方法1：提前规划154

11.3　方法2：适应性算法155

11.4　马尔可夫决策问题156

11.5　无限时域问题161

11.6　小结162

11.7　参考资料162

11.8　练习163

第12章　路线规划—B166

12.1　线性二次型高斯问题166

12.2　有噪声观测时的线性二次型高斯问题169

12.3　部分可观测的马尔可夫决策问题171

12.4　小结173

12.5　参考资料174

12.6　练习174

第13章　视野拓展和补充176

13.1　推断问题176

13.2　充分统计量177

13.3　无限马尔可夫链179

13.4　泊松过程181

13.4.1　定义181

13.4.2　独立自增量182

13.4.3　跳跃次数183

13.5　连续时间马尔可夫链184

13.6　二元对称信道的容量186

13.7　概率界190

13.8　鞅194

13.8.1　定义194

13.8.2　示例195

13.8.3　大数定律199

13.8.4　沃尔德等式200

13.9　小结201

13.10　参考资料201

13.11　练习202

附录A　概率论基础知识206

附录B　线性代数基本知识240

附录C　Matlab253

参考文献　273

想象一下你正在浏览网页：假设你在网页i上浏览了一个单位时间，然后随机点击进入了网页i指向的一个网页．在这个过程中，从网页i到网页j的概率正好为P(i, j)，与前面的例子相同． 1.2.1　定义 考虑一个包含节点X = {1, 2, …, N}和有向边的有限图．假设其中有些节点具有指向自己的边．图中每条边(i, j)，都有一个权重P(i, j) > 0．这些权值使得每个点外向边的权和为1...

(查看全部试读)