信息检索导论

第1章　布尔检索 1

1.1　一个信息检索的例子 2

1.2　构建倒排索引的初体验 5

1.3　布尔查询的处理 8

1.4　对基本布尔操作...

第1章　布尔检索 1

1.1　一个信息检索的例子 2

1.2　构建倒排索引的初体验 5

1.3　布尔查询的处理 8

1.4　对基本布尔操作的扩展及有序检索 11

1.5　参考文献及补充读物 13

第2章　词项词典及倒排记录表 14

2.1　文档分析及编码转换 14

2.1.1　字符序列的生成 14

2.1.2　文档单位的选择 16

2.2　词项集合的确定 16

2.2.1　词条化 16

2.2.2　去除停用词 19

2.2.3　词项归一化 20

2.2.4　词干还原和词形归并 23

2.3　基于跳表的倒排记录表快速合并算法 26

2.4　含位置信息的倒排记录表及短语查询 28

2.4.1　二元词索引 28

2.4.2　位置信息索引 29

2.4.3　混合索引机制 31

2.5　参考文献及补充读物 32

第3章　词典及容错式检索 34

3.1　词典搜索的数据结构 34

3.2　通配符查询 36

3.2.1　一般的通配符查询 37

3.2.2　支持通配符查询的k-gram索引 38

3.3　拼写校正 39

3.3.1　拼写校正的实现 39

3.3.2　拼写校正的方法 40

3.3.3　编辑距离 40

3.3.4　拼写校正中的 k-gram索引 42

3.3.5　上下文敏感的拼写校正 43

3.4　基于发音的校正技术 44

3.5　参考文献及补充读物 45

第4章　索引构建 46

4.1　硬件基础 46

4.2　基于块的排序索引方法 47

4.3　内存式单遍扫描索引构建方法 50

4.4　分布式索引构建方法 51

4.5　动态索引构建方法 54

4.6　其他索引类型 56

4.7　参考文献及补充读物 57

第5章　索引压缩 59

5.1　信息检索中词项的统计特性 59

5.1.1　Heaps定律：词项数目的估计 61

5.1.2　Zipf定律：对词项的分布建模 62

5.2　词典压缩 63

5.2.1　将词典看成单一字符串的

压缩方法 63

5.2.2　按块存储 64

5.3　倒排记录表的压缩 66

5.3.1　可变字节码 67

5.3.2　γ编码 68

5.4　参考文献及补充读物 74

第6章　文档评分、词项权重计算及

向量空间模型 76

6.1　参数化索引及域索引 76

6.1.1　域加权评分 78

6.1.2　权重学习 79

6.1.3　最优权重g 的计算 80

6.2　词项频率及权重计算 81

6.2.1　逆文档频率 81

6.2.2　tf-idf 权重计算 82

6.3　向量空间模型 83

6.3.1　内积 83

6.3.2　查询向量 86

6.3.3　向量相似度计算 87

6.4　其他tf-idf 权重计算方法 88

6.4.1　tf的亚线性尺度变换方法 88

6.4.2　基于最大值的tf归一化 88

6.4.3　文档权重和查询权重机制 89

6.4.4　文档长度的回转归一化 89

6.5　参考文献及补充读物 92

第7章　一个完整搜索系统中的评分

计算 93

7.1　快速评分及排序 93

7.1.1　非精确返回前K篇文档的方法 94

7.1.2　索引去除技术 94

7.1.3　胜者表 95

7.1.4　静态得分和排序 95

7.1.5　影响度排序 96

7.1.6　簇剪枝方法 97

7.2　信息检索系统的组成 98

7.2.1　层次型索引 98

7.2.2　查询词项的邻近性 98

7.2.3　查询分析及文档评分函数的

设计 99

7.2.4　搜索系统的组成 100

7.3　向量空间模型对各种查询操作

的支持 101

7.3.1　布尔查询 101

7.3.2　通配符查询 102

7.3.3　短语查询 102

7.4　参考文献及补充读物 102

第8章　信息检索的评价 103

8.1　信息检索系统的评价 103

8.2　标准测试集 104

8.3　无序检索结果集合的评价 105

8.4　有序检索结果的评价方法 108

8.5　相关性判定 112

8.6　更广的视角看评价：系统质量及

用户效用 115

8.6.1　系统相关问题 115

8.6.2　用户效用 115

8.6.3　对已有系统的改进 116

8.7　结果片段 116

8.8　参考文献及补充读物 118

第9章　相关反馈及查询扩展 120

9.1　相关反馈及伪相关反馈 120

9.1.1　Rocchio相关反馈算法 122

9.1.2　基于概率的相关反馈方法 125

9.1.3　相关反馈的作用时机 125

9.1.4　Web上的相关反馈 126

9.1.5　相关反馈策略的评价 127

9.1.6　伪相关反馈 127

9.1.7　间接相关反馈 128

9.1.8　小结 128

9.2　查询重构的全局方法 128

9.2.1　查询重构的词汇表工具 128

9.2.2　查询扩展 129

9.2.3　同义词词典的自动构建 130

9.3　参考文献及补充读物 131

第10章　XML检索 133

10.1　XML的基本概念 134

10.2　XML检索中的挑战性问题 137

10.3　基于向量空间模型的XML检索 140

10.4　XML检索的评价 144

10.5　XML检索：以文本为中心与以数据

为中心的对比 146

10.6　参考文献及补充读物 148

第11章　概率检索模型 150

11.1　概率论基础知识 150

11.2　概率排序原理 151

11.2.1　1/0风险的情况 151

11.2.2　基于检索代价的概率排序

原理 152

11.3　二值独立模型 152

11.3.1　排序函数的推导 153

11.3.2　理论上的概率估计方法 155

11.3.3　实际中的概率估计方法 156

11.3.4　基于概率的相关反馈方法 157

11.4　概率模型的相关评论及扩展 158

11.4.1　概率模型的评论 158

11.4.2　词项之间的树型依赖 159

11.4.3　Okapi BM25: 一个非二值的

模型 160

11.4.4　IR中的贝叶斯网络

方法 161

11.5　参考文献及补充读物 162

第12章　基于语言建模的信息检索

模型 163

12.1　语言模型 163

12.1.1　有穷自动机和语言模型 163

12.1.2　语言模型的种类 165

12.1.3　词的多项式分布 166

12.2　查询似然模型 167

12.2.1　IR中的查询似然模型 167

12.2.2　查询生成概率的估计 167

12.2.3　Ponte和Croft进行的实验 169

12.3　语言建模的方法与其他检索方法的

比较 171

12.4　扩展的LM方法 172

12.5　参考文献及补充读物 173

第13章　文本分类及朴素贝叶斯方法 175

13.1　文本分类问题 177

13.2　朴素贝叶斯文本分类 178

13.3　贝努利模型 182

13.4　NB的性质 183

13.5　特征选择 188

13.5.1　互信息 188

13.5.2　 统计量 191

13.5.3　基于频率的特征选择方法 192

13.5.4　多类问题的特征选择方法 193

13.5.5　不同特征选择方法的比较 193

13.6　文本分类的评价 194

13.7　参考文献及补充读物 199

第14章　基于向量空间模型的文本

分类 200

14.1　文档表示及向量空间中的关联度

计算 201

14.2　Rocchio分类方法 202

14.3　k近邻分类器 205

14.4　线性及非线性分类器 209

14.5　多类问题的分类 212

14.6　偏差—方差折中准则 214

14.7　参考文献及补充读物 219

第15章　支持向量机及文档机器学习

方法 221

15.1　二类线性可分条件下的支持向量机 221

15.2　支持向量机的扩展 226

15.2.1　软间隔分类 226

15.2.2　多类情况下的支持向量机 228

15.2.3　非线性支持向量机 228

15.2.4　实验结果 230

15.3　有关文本文档分类的考虑 231

15.3.1　分类器类型的选择 231

15.3.2　分类器效果的提高 233

15.4　ad hoc检索中的机器学习方法 236

15.4.1　基于机器学习评分的简单

例子 236

15.4.2　基于机器学习的检索结果

排序 238

15.5　参考文献及补充读物 239

第16章　扁平聚类 241

16.1　信息检索中的聚类应用 242

16.2　问题描述 244

16.3　聚类算法的评价 246

16.4　K-均值算法 248

16.5　基于模型的聚类 254

16.6　参考文献及补充读物 258

第17章　层次聚类 260

17.1　凝聚式层次聚类 260

17.2　单连接及全连接聚类算法 263

17.3　组平均凝聚式聚类 268

17.4　质心聚类 269

17.5　层次凝聚式聚类的最优性 270

17.6　分裂式聚类 272

17.7　簇标签生成 273

17.8　实施中的注意事项 274

17.9　参考文献及补充读物 275

第18章　矩阵分解及隐性语义索引 277

18.1　线性代数基础 277

18.2　词项—文档矩阵及SVD 280

18.3　低秩逼近 282

18.4　LSI 284

18.5　参考文献及补充读物 287

第19章　Web搜索基础 289

19.1　背景和历史 289

19.2　Web的特性 290

19.2.1　Web图 291

19.2.2　作弊网页 293

19.3　广告经济模型 294

19.4　搜索用户体验 296

19.5　索引规模及其估计 297

19.6　近似重复及shingling 300

19.7　参考文献及补充读物 303

第20章　Web采集及索引 304

20.1　概述 304

20.1.1　采集器必须提供的

功能特点 304

20.1.2　采集器应该提供的

功能特点 304

20.2　采集 305

20.2.1　采集器架构 305

20.2.2　DNS解析 308

20.2.3　待采集URL池 309

20.3　分布式索引 311

20.4　连接服务器 312

20.5　参考文献及补充读物 314

第21章　链接分析 316

T21.1　Web图T 316

T21.2　PageRankT 318

21.2.1　马尔科夫链 318

21.2.2　PageRank的计算 320

21.2.3　T面向主题的PageRankT 322

T21.3　Hub网页及Authority网页T 325

T21.4　参考文献及补充读物T 329

参考文献 331

索引 356