‖前 言
近年来,万维网(World Wide Web,简称Web)已经成为最大的信息源, 开发先进的搜索工具一直是因特网(Internet)技术的一项关键研究和开发工作。由于Google和Yahoo!等主流搜索引擎的普及,目前在Web上的搜索工具中,搜索引擎是人们最为熟知的。虽然这些主流搜索引擎非常成功,但也存在许多严重的局限性。例如,每个搜索引擎仅能覆盖Web上全部可用内容的一小部分;其基于爬虫的技术很难完全达到所谓的深层网(deep Web,也称为深网),虽然这方面最近取得了很大的进展并且紧跟Web内容的变化和扩展而发展。
本书所介绍的大规模元搜索引擎技术具有克服这些主流搜索引擎局限性的潜力。元搜索引擎是一个支持统一访问一些现有搜索引擎的搜索系统。本质上,元搜索引擎将接收到的查询发送给其他的搜索引擎,当这些被调用的搜索引擎返回结果之后,元搜索引擎将这些结果聚集为一个排序列表并展现给用户。虽然开发元搜索引擎的最初动力是其结合多个搜索引擎的搜索范围的能力,但它还有更多的益处,如可以获得更好、更新的结果,能够访问深层网。
本书重点关注大规模元搜索引擎(large-scale metasearch engine)的概念。这种元搜索引擎连接成千上万个搜索引擎。构建和维护大规模元搜索引擎需要先进的元搜索引擎技术,使其一些关键部件具有高度可扩展性和自动化解决方案。本书的目的就是广泛而深入地介绍大规模元搜索引擎技术,对作为Web搜索的竞争技术的大规模元搜索引擎技术的可行性进行了强有力的论证。本书将详细讨论大规模元搜索引擎的主要部件:搜索引擎选择,这一部件用于识别最有可能为任何给定查询提供有用结果的各个搜索引擎;搜索引擎加入,这一部件与各个搜索引擎进行交互,包括从元搜索引擎发送查询给本地搜索引擎以及从不同的搜索引擎返回的响应页面中提取搜索结果;结果合并,这一部件将不同搜索引擎返回的结果合并为一个排序列表。大规模元搜索引擎技术包括高度准确和可扩展的搜索引擎选择算法、高度自动化的搜索引擎加入技术和高效的结果合并方法。
本书可作为Web数据管理和信息检索等Web技术相关课程的部分内容,也可作为Web搜索领域的研究人员和开发人员的参考书。
致谢
对数据管理系列丛书编辑M. Tamer zsu博士表示衷心的感谢,他仔细阅读了全部书稿,并提出了非常有价值及建设性的建议,这些建议对改进本书有很大的帮助。感谢Hongkun Zhao和Can Lin,他们阅读了部分书稿并提出宝贵意见。还要感谢本书的编辑Diane Cerra在写作过程中给予的帮助。
Meng Weiyi和Clement T.Yu
2010年11月
‖目 录
丛书前言
译者序
前 言
作者简介
[第1章 绪言
1.1 Web上查找信息
1.1.1 浏览
1.1.2 搜索]()
[1.2 文本检索概述
1.2.1 系统体系结构
1.2.2 文档表示
1.2.3 文档-查询匹配
1.2.4 查询处理
1.2.5 检索有效性度量]()
[ 1.3 搜索引擎技术概述
1.3.1 Web的专门特性
1.3.2 Web爬虫
1.3.3 利用标签信息
1.3.4 利用链接信息
1.3.5 结果组织]()
1.4 本书概述
[第2章 元搜索引擎体系结构
2.1 系统体系结构]()
2.2 为什么使用元搜索引擎技术
[2.3 挑战环境
2.3.1 异构及其影响
2.3.2 规范化研究]()
第3章 搜索引擎选择
3.1 粗糙表记方法
3.2 基于学习的方法
3.3 基于样本文档的方法
3.4 统计表记方法
3.4.1 D-WISE
3.4.2 CORI Net
3.4.3 gGlOSS
3.4.4 潜在有用文档数目
3.4.5 最相似文档的相似度
3.4.6 搜索引擎表记生成
第4章 搜索引擎加入
4.1 搜索引擎连接
4.1.1 搜索引擎的HTML表单标签
4.1.2 搜索引擎自动连接
4.2 搜索结果抽取
4.2.1 半自动包装器生成
4.2.2 自动包装器生成
第5章 结果合并
5.1 基于完全文档内容的合并
5.2 基于搜索结果记录的合并
5.3 基于结果本地排序的合并
5.3.1 基于轮转的方法
5.3.2 基于相似度转换的方法
5.3.3 基于投票的方法
5.3.4 基于机器学习的方法
第6章 总结与后续研究
参考文献