搜索引擎技术核心揭密(PHP)

搜索引擎

作者:沙雨

编者按:这是一篇精彩的编程教学文章,不但详细地剖析了搜索引擎的原理,也提供了笔者自己对使用PHP编制搜索引擎的一些思路。整篇文章深入浅出,相信无论是高手还是菜鸟,都能从中得到不少的启发。

  谈到网页搜索引擎时,大多数人都会想到雅虎。的确,雅虎开创了一个互联网络的搜索时代。然而,雅虎目前用于搜索网页的技术却并非该公司原先自己开发的。2000年8月,雅虎采用了Google(www.google.com)这家由斯坦福大学学生创建的风险公司的技术。理由非常简单,Google的搜索引擎比雅虎先前使用的技术能更快、更准确搜索到所需要的信息。

  让我们自己来设计、开发一个强劲、高效的搜索引擎和数据库恐怕短时间内在技术、资金等方面是不可能的,不过,既然雅虎都在使用别人的技术,那么我们是不是也可以使用别人现成的搜索引擎网站呢?

剖析编程思路

  我们可以这样设想:模拟一个查询,向某个搜索引擎网站发出相应格式的搜索命令,然后传回搜索结果,对结果的HTML代码进行分析,剥离多余的字符和代码,最后按所需要的格式显示在我们自己的网站页面里。

  这样,问题的关键就在于,我们要选定一个搜索信息准确(这样我们的搜索才会更有意义啊)、速度快(因为我们分析搜索结果并显示需要额外的时间),搜索结果简洁(便于进行HTML源代码分析和剥离)的搜索网站,由于新一代搜索引擎Google的各种优良特性,这里我们选择它为例,来看看用PHP怎样实现后台对Google(www.google.com)搜索、前台个性化显示这一过程。

  我们先来看看Google的查询命令的构成。进入www.google.com网站,在查询栏中输入“abcd”,点击查询按钮,我们可以发现浏览器的地址栏变成:"http://www.google.com/search?q=abcd&btnG=Google%CB%D1%CB%F7&hl=zh-CN&lr=",可见,Google是通过表单的get方式来传递查询参数并递交查询命令的。我们可以使用PHP中的file()函数来模拟这个查询过程。

了解File()函数

  语法: array file(string filename);

  返回值为数组,将文件全部读入数组变量中。这里的文件可以是本地的,也可以是远程的,远程文件必须指明所使用的协议。例如: result=file(“http://www.google.com/search?q=abcd&btnG=Google%CB%D1%CB%F7&hl=zh-CN&lr=”),该语句将模拟我们在Google上查询单词“abcd”的过程,并将搜索结果以每行为元素,传回到数组变量 result中。因为这里读取的文件是远程的,所以协议名“http://”不能缺少。

  如果要让用户输入搜索字符进行任意搜索,我们可以做一个输入文本框和提交按钮,并将上文中的被搜索字符“abcd”用变量替换:
<?php
echo '<form>'; //没有参数的form,默认提交方式为get,提交到本身
echo '<input type="text" name="keywords">'; //构造一个文本输入框
echo '<input type="submit" value="查询">'; //构造一个提交查询按钮
echo '</form>';

if (isset( keywords)) //提交后PHP会生成变量 kwywords,即要求下面的程序在提交后运行
{
urlencode( keywords); //对用户输入内容进行URL编码
result=file("http://www.google.com/search?q=". keywords."&btnG=Google%CB%D1%CB%F7&hl=zh-CN&lr=");
//对查询语句进行变量替换,将查询结果保存在数组变量 result中
result_string=join(" ", result); //将数组$result合并成字符串,各数组元素之间用空格粘和
... //进一步处理
}
?>

  上面的这段程序已经能按用户输入内容进行查询,并将返回的结果合成一个字符串变量$result_string。请注意要使用urlencode()函数将用户输入内容进行URL编码,才可以正常地对输入的汉字、空格以及其他特殊字符进行查询,这样做也是尽可能逼真地模拟Google的查询命令,保证搜索结果的正确性。

对Google的分析

  为了便于理解,现在假设我们所真正需要的东西是:搜索结果的标题。网址和简介等,这是一个简洁而典型的需求。这样,我们所要做的便是:去除Google搜索结果的台头和脚注,包括一个Google的标志、再次搜索的输入框和搜索结果说明等,并且在剩余的搜索结果各项条目中剥离原来的HTML格式标记,替换成我们想要的格式。

  要做到这一点,我们必须仔细地分析Google搜索结果的HTML源码,找到其中的规律。不难发现,在Google的搜索结果的正文总是包含在源码的第一个<p>标记和倒数第二个<p>标记之间,并且倒数第二个<p>标记后紧跟table字符,而且这个组合“<p><table”在源码中也仅有一次,利用这个特点,我们可以这样去除Google的台头和脚注。

  以下所有程序均依次接续在上文程序的“进一步处理”处。

  result_string = strstr( result_string, "<p>"); //取 result_string从第一个<p>开始后的字符串,以去除Google台头
position= strpos( result_string,"<p>table符号的位置
result_string= substr( result_string,0, position);//截取第一个<p>table符号之前的字符串,以去除脚注

应用与实现

  OK,现在我们已经得到有用的HTML源码主干了,剩下的问题是如何自主地显示这些内容。我们再分析一下这些搜索结果条目,发现每个条目之间也是很有规律的用
分隔,也就是各成一个段落,按这个特点我们用explode()函数把每个条目切开:

  语法:explode(string separator, string string);

  返回一个数组,按separator切开后的各个小字串被保存在数组中。

  于是:
result_array=explode("<p>", result_string); //用字串"<p>"把结果切开

  我们就得到一个数组 result_array,其中每个元素都是一个搜索结果条目。我们所要做的仅仅是研究每个条目及其HTML显示格式代码,然后按要求替换就行了。下面用循环来处理 result_array中的每个条目。
for( i=0; i {
... //处理每个条目
}

  对于每个条目,我们也很容易找到一些特点:每个条目都由标题、摘要、简介、类别、网址等组成,每个部分都换行,即包含<br>标记,于是再次分割:(以下处理程序放在上文的循环中)
every_item=explode("<br>", result_array[ i]);

  这样我们得到一个数组 every_item,其中 every_item[0]就是标题, every_item[1]和 every_item[2]两行为摘要, every_item[3]和 every_item[4]等等的头部如果包含“<font size=-1 color=#6f6f6f >简介:</font>”、“< font size=-1 color=#6f6f6f>类别:< /font>”字符,则是简介或类别(因为有的结果条目没有该项),如果头部包含“< font color=green>”则肯定就是网址啦,这种对比判断我们常使用正则表达式(略),如果要替换也很方便,比如包含标题的$every_item[0],其本身是有链接的,我们希望修改这个链接属性,让它在新窗口打开链接:
echo eregi_replace(' {
... //处理每个条目中除去第一项(第一项为标题,已经显示)的每一项
... //更多格式修改
}

  这样就修改了链接属性,其余很多显示格式的修改、剥离、替换都能用正则替换eregi_replace()来完成。

  至此我们已经得到了每个搜索条目的每一项,并能任意修改每项的格式,甚至可以给他套上漂亮的表格。然而一个好的程序应该能适应各种运行环境的,这里也不例外,我们其实还只是讨论了搜索结果的HTML剥离的一种框架方法,真正要做得完美,还要考虑很多内容,比如要显示一共搜索出多少结果,分成多少页等等,甚至还可以刨除与Google相关的那些“类别”、“简介”等代码,让客户根本看不到原始网站。不过这些内容和要求我们都能通过分析HTML进行剥离得到。现在大家完全能自己动手,做个极富个性化的搜索引擎啦。

时间: 2024-08-03 12:22:31

搜索引擎技术核心揭密(PHP)的相关文章

PHP搜索引擎技术核心揭密

<?xml:namespace prefix = o ns = "urn:schemas-microsoft-com:office:office" />  . 谈到网页搜索引擎时,大多数人都会想到雅虎.的确,雅虎开创了一个互联网络的搜索时代.然而,雅虎目前用于搜索网页的技术却并非该公司原先自己开发的.2000年8月,雅虎采用了Google(www.google.com)这家由斯坦福大学学生创建的风险公司的技术.理由非常简单,Google的搜索引擎比雅虎先前使用的技术能更快.

搜索引擎技术核心揭密(PHP版)

谈到网页搜索引擎时,大多数人都会想到雅虎.的确,雅虎开创了一个互联网络的搜索时代.然而,雅虎目前用于搜索网页的技术却并非该公司原先自己开发的.2000年8月,雅虎采用了Google(www.google.com)这家由斯坦福大学学生创建的风险公司的技术.理由非常简单,Google的搜索引擎比雅虎先前使用的技术能更快.更准确搜索到所需要的信息. 让我们自己来设计.开发一个强劲.高效的搜索引擎和数据库恐怕短时间内在技术.资金等方面是不可能的,不过,既然雅虎都在使用别人的技术,那么我们是不是也可以使用

搜索引擎技术核心揭密_php基础

编者按:这是一篇精彩的编程教学文章,不但详细地剖析了搜索引擎的原理,也提供了笔者自己对使用PHP编制搜索引擎的一些思路.整篇文章深入浅出,相信无论是高手还是菜鸟,都能从中得到不少的启发. 谈到网页搜索引擎时,大多数人都会想到雅虎.的确,雅虎开创了一个互联网络的搜索时代.然而,雅虎目前用于搜索网页的技术却并非该公司原先自己开发的.2000年8月,雅虎采用了Google(www.google.com)这家由斯坦福大学学生创建的风险公司的技术.理由非常简单,Google的搜索引擎比雅虎先前使用的技术能

【视频】搜索引擎Google技术核心揭密

找了是一段从http://www.aliyun.com/zixun/aggregation/7298.html">程序开发角度讲解搜索引擎原理的视频教程,对我们SEO来说非常有意义.不管你懂不懂PHP,建议都看一下,也就20分钟. 搜索引擎Google技术核心揭密: 作者:Kyw@上海863.html">SEO搜索引擎优化实验室 原文链接:http://www.seotest.cn/blog/google-shipin-php.html 版权所有,转载请以链接形式注明作者及

技术是搜索引擎的核心竞争力

百度 联盟峰会今日在黄山举行.百度副总裁向海龙参会并表示,技术创新让百度的产品能够"想用户所想.想用户未想",技术是搜索引擎的核心竞争力. 向海龙表示,经过10多年的不断探索,百度搜索已经占据绝对的领先地位.然而,百度对搜索技术的优化和升级从未停止.向海龙表示,"基于百度优秀的基础架构,搜索的极速时代已经到来." 极速搜索的特点就是"快",比普通搜索减少80%的处理时间."人眨一次眼睛时间是0.2秒,博尔特的起跑时间是0.16秒,子弹穿

中文搜索引擎技术揭密:中文分词-搜索引擎技术

信息的飞速增长,使搜索引擎成为人们查找信息的首选工具,Google.百度.中国搜索等大型搜索引擎一直是人们讨论的话题.随着搜索市场价值的不断增加,越来越多的公司开发出自己的搜索引擎,阿里巴巴的商机搜索.8848的购物搜索等也陆续面世,自然,搜索引擎技术也成为技术人员关注的热点. 搜索引擎技术的研究,国外比中国要早近十年,从最早的Archie,到后来的Excite,以及altvista.overture.google等搜索引擎面世,搜索引擎发展至今,已经有十几年的历史,而国内开始研究搜索引擎是在上

最有前途的软件开发技术——搜索引擎技术

搜索技术发展及未来趋势 搜索技术仍不能满足需求 Internet的迅速发展和广泛应用导致了网上信息爆炸性地增长.据权威机构统计,网上约有数十亿的网页,甚至有些专家宣称网页总数已达5500亿,这一数字仍然在不断地快速增长.因此,如何在庞大的Internet上获得有价值的信息已成为网民日益关注的问题.搜索技术的出现为网民从Internet上快速找到所需信息带来了福音.搜索引擎是一种用于帮助Internet用户查询信息的搜索工具,它以一定的策略在Internet中搜集.发现信息,对信息进行理解.提取.

网络搜索的技术、模式与竞争走势-搜索引擎技术

搜索市场,扩疆拓土者众,彼此间的竞争上升为"白热化".这是因为搜索已经成为互联网第二大应用,并被称为"电子商务的基石"."互联网的战略核心",而Google名利双收的示范效应,更加剧了狂热的追逐. 若待天下瓜分完毕,故事就缺少了悬念,于是有了这篇妄自揣测未来格局的文章.我们最关注的是预估2006年将达到23亿美元的中文搜索引擎市场,本土企业在国际巨头的"大棒+黄油"攻击下,下一步的发展可能. 搜索市场还存在两大变数:核心技术与

硅谷杂志:浅谈个性化元搜索引擎技术

[硅谷网11月4日文]据<硅谷>杂志2012年第16期刊文称,搜素引擎技术这几年的发展速度非常快,同时应用的也非常广泛,可以说搜索引擎改变人们上网的体验,能够更准确的帮助广大用户能够定位自己需要的内容和知识,而且搜索引擎为提供更准确的搜索结果,也已经开始逐步融入智能化搜索引擎技术,而这一切都是建立在元搜索引擎技术基础上的, 重点就是探讨个性化元搜索的几个关键性的技术. 1元搜索引擎的概念分析 元搜索引擎实际上是通过统一的用户界面来 帮助用户在多个搜索引擎中 寻找 合适的搜索引擎来进行检索的基础