asp 采集程序常用函数分析

原理

采集程序实际上是通过了XML中的XMLHTTP组件调用其它网站上的网页。比如新闻采集程序,很多都是调用了sina的新闻网页,并且对其中的html进行了一些替换,同时对广告也进行了过滤。用采集程序的优点有:无须维护网站,因为采集程序中的数据来自其他网站,它将随着该网站的更新而更新;可以节省服务器资源,一般采集程序就几个文件,所有网页内容都是来自其他网站。缺点有:不稳定,如果目标网站出错,程序也会出错,而且,如果目标网站进行升级维护,那么采集程序也要进行相应修改;速度,因为是远程调用,速度和在本地服务器上读取数据比起来,肯定要慢一些。

一、事例

下面就XMLHTTP在ASP中的应用做个简单说明

复制代码 代码如下:

<%

'常用函数

'1、输入url目标网页地址,返回值getHTTPPage是目标网页的html代码

function getHTTPPage(url)

dim Http

set Http=server.createobject("MSXML2.XMLHTTP")

Http.open "GET",url,false

Http.send()

if Http.readystate<>4 then

exit function

end if

getHTTPPage=bytesToBstr(Http.responseBody,"GB2312")

set http=nothing

if err.number<>0 then err.Clear

end function

'2、转换乱玛,直接用xmlhttp调用有中文字符的网页得到的将是乱玛,可以通过adodb.stream组件进行转换

Function BytesToBstr(body)

dim objstream

set objstream = Server.CreateObject("adodb.stream")

objstream.Type = 1

objstream.Mode =3

objstream.Open

objstream.Write body

objstream.Position = 0

objstream.Type = 2

objstream.Charset = "GB2312" '转换原来默认的UTF-8编码转换成GB2312编码,否则直接用XMLHTTP组件调用有中文字符的网页得到的将是乱码

BytesToBstr = objstream.ReadText

objstream.Close

set objstream = nothing

End Function

'下面试着调用http://www.jb51.net的html内容

Dim Url,Html

Url="http://www.jb51.net";

Html = getHTTPPage(Url)

Response.write Html

%>

二、几个常用的函数

(一)InStr 函数

描述

返回某字符(string2)串在另一字符串(string1)中第一次出现的位置。

语法

InStr(string1, string2)

例如:

Dim SearchString, SearchChar

SearchString ="http://www.jb51.net" ' 要在其中搜索的字符串。

SearchChar = "jb51" ' 搜索 "jb51"。

MyBK = Instr(SearchString, SearchChar) ' 返回 8

'如果找不到则返回“0”,例如:

SearchChar = "BK"

MyBK = Instr(SearchString, SearchChar) ' 返回 0

(二)Mid 函数

描述

从字符串中返回指定数目的字符。

语法

Mid(string, start, over)

例如:

Dim MyBK

MyBK = Mid("我们的BK(www.google)设计", 7, 12) '截取字符串"我们的BK(www.google)设计"第7个字符以后的12个字符

'此时MyBK的值就变成了"www.google"

(三)Replace 函数

Dim SearchString, SearchChar

SearchString ="我们的BK设计是一个网站建设资源网站" ' 要在其中搜索的字符串。

SearchString =Replace(SearchString,"BK设计","Www.google")

'此时SearchString的值就变成了"我们的Www.google是一个网站建设资源网站"

三、截取指定区域的HTML代码

例如我只想获取以下HTML代码中"<td>"和"</td>"之间的的文字部分:

<html>

<title>(www.google)谷歌搜索引擎</title>

<body>

<table>

<tr><td></td></tr>

<tr><td id="Content">BK(www.google)谷歌搜索引擎是个资源多多的站点……</td></tr>

</table>

</body>

</html>

<%

……

Dim StrBK,start,over,RsBK

StrBK=getHTTPPage(网页的地址)

start=Instr(StrBK,"<td id=""Content"">") '此处的作用是获取字符串开始地方的定位。这里要有人问了:原来的代码是<td id="Content">,怎么你这里调用的是<td id=""Content"">啊?答案:asp中(准确的说是VBscript中是用两个双引号来表示一个双引号的,因为双引号对于程序来说是个敏感字符。)

over=Instr(StrBK,"…</td></tr>")'此处的作用是获取字符串结束地方的定位。

'这里又要有人问了:( :程序调用HTML代码干吗前面多出来3个点点"…"啊?答:提示:上面一行也有一个</td></tr>,如果这里用</td></tr>来定位的话,程序会错误地把上面一行的</td></tr>当成欲获取字符串的结束部分了。

RsBK=mid(StrBK,start,over-start) '此处的作用是取出StrBK中第start个字符到第over个字符之间的字符串。mid函数前面一节我也讲过了;over-start是为了计算出开始位置和结束位置之间的距离,也就是字符数。

response.write(RsBK) '最后输出程序获取的内容

%>

不要高兴的太早,当你运行的时候,你会发现页面的html代码有错误,为什么呢?因为你获取的html代码是:

<td id="Content">BK(www.google)谷歌搜索引擎是个资源多多的站点…

看到了吧?有残缺的HTML代码啊!怎么办呢?start=Instr(StrBK,"<td id=""Content"">")这个语句获取的是"<td id="Content">"在StrBK中的位置数,现在我们可以在程序语句的后面加上17,那么程序就会将位置指向<td id="Content">后面的那个字符.

好的,程序将改成这样:

<%

……

Dim StrBK,start,over,RsBK

StrBK=getHTTPPage(网页的地址)

start=Instr(StrBK,"<td id=""Content"">") + 17

over=Instr(StrBK,"…</td></tr>") '这里你也可以减去七(-7)把3个点去掉

RsBK=mid(StrBK,start,over-start)

response.write(RsBK)

%>

这样就OK了,我们就可以将我们想要的东西偷过来显示在我们自己的页面了,呵呵~

四、删掉或修改获取的字符

将RsBK中的"BK(www.google)"换成"BK":

RsBK=replace(RsBK,"BK(www.google)","BK")

或者直接把"(www.google)"删掉:

RsBK=replace(RsBK,"(www.google)","")

好了,现在RsBK就变成了:"BK谷歌搜索引擎是个资源多多的站点……"了.

但是事实中,有些情况可能replace函数是不适应的,比如我们想把某个字符串里面的所有连接都去掉.连接可能包括很多种类型,replace只能替代其中特定的一个,我们不可能用一个又一个对应的replace函数来替换吧?

但可以使用正则表达式来代替此项工作。这里不细谈了。

(一)如何将对方网站的翻页也处理成我们自己的呢?

答案是:利用replace函数和页面参数的传递。

例如对方页面里含有这样的翻页代码:"<a href=2.htm>下一页</a>",我们可以先利用上面讲的内容,获取这个字符串,然后用replace函数:RsBK=replace(RsBK,"<a href=","<a href=page.asp?Url=")

然后再page.asp的程序里获取Url的参数值,最后用采集技术获取下一页你想要的内容就可以了。

(二)如何将获取的内容入库

由于篇幅有限,这里简单说一下.

其实很简单:

将偷来的内容作一下处理,防止在写入数据库的时候出现sql注入错误,例如:replace(String,"'","''")

然后执行一个插入数据库操作的sql命令就ok了~

以上只是一些关于XMLHTTP组件的初级应用,实际上它还能实现的功能还有很多,比如说保存远程图片到本地服务器上,配合adodb.stream组件可以把获取来的数据保存进数据库。采集的作用和使用范围都很广。

时间: 2024-11-26 03:28:15

asp 采集程序常用函数分析的相关文章

asp 采集程序常用函数分析_小偷/采集

原理 采集程序实际上是通过了XML中的XMLHTTP组件调用其它网站上的网页.比如新闻采集程序,很多都是调用了sina的新闻网页,并且对其中的html进行了一些替换,同时对广告也进行了过滤.用采集程序的优点有:无须维护网站,因为采集程序中的数据来自其他网站,它将随着该网站的更新而更新:可以节省服务器资源,一般采集程序就几个文件,所有网页内容都是来自其他网站.缺点有:不稳定,如果目标网站出错,程序也会出错,而且,如果目标网站进行升级维护,那么采集程序也要进行相应修改:速度,因为是远程调用,速度和在

PHP 采集程序 常用函数_php技巧

当前的脚本网址 function get_php_url(){ if(!empty($_SERVER["REQUEST_URI"])){ $scriptName = $_SERVER["REQUEST_URI"]; $nowurl = $scriptName; }else{ $scriptName = $_SERVER["PHP_SELF"]; if(empty($_SERVER["QUERY_STRING"])) $nowu

小偷,采集程序常用函数_小偷/采集

<script language="javascript" runat="server"> //连接数据库 function connOpen(DataBaseConnectStr){   var conn = Server.CreateObject("ADODB.Connection");   conn.Open(DataBaseConnectStr);   return conn; } //利用AdoDb.Stream对象来读取指

小偷,采集程序常用函数

<script language="javascript" runat="server"> //连接数据库 function connOpen(DataBaseConnectStr){   var conn = Server.CreateObject("ADODB.Connection");   conn.Open(DataBaseConnectStr);   return conn; } //利用AdoDb.Stream对象来读取指

推荐ASP中VBScript常用函数_FSO专题

/*-------------------ASP文档参考集-----------------------*/ *-->作者:草履虫 *-->时间:2007-4.28---2007-4.30(原来是自己编写的手册,现在发在这里) *-->联系:caolvchong@gmail.com *-->文档功能: 1.复习了ASP,加深了对ASP结构的理解和ASP的体会 2.可以用来做ASP参考,自己写的,参考起来更方便 这是第五部分:ASP中VBScript常用函数 /*----------

推荐ASP中VBScript常用函数

/*-------------------ASP文档参考集-----------------------*/ *-->作者:草履虫 *-->时间:2007-4.28---2007-4.30(原来是自己编写的手册,现在发在这里) *-->联系:caolvchong@gmail.com *-->文档功能: 1.复习了ASP,加深了对ASP结构的理解和ASP的体会 2.可以用来做ASP参考,自己写的,参考起来更方便 这是第五部分:ASP中VBScript常用函数 /*----------

PHP采集程序常用的采集函数收藏

这几天关注了一下PHP的采集程序,才发现用PHP采集内容是这么方便,把经常用到的采集函数在这里总结一下,方便以后使用!  代码如下 复制代码 获取所有链接内容和地址 function getAllURL($code){ preg_match_all('/<as+href=["|']?([^>"' ]+)["|']?s*[^>]*>([^>]+)</a>/i',$code,$arr); return array('name'=>$

asp开发中常用函数

asp教程开发中常用函数 sub lastnextpage(pagecount,page,table_style,font_style) '生成上一页下一页链接  dim query, a, x, temp  action = "http://" & request.servervariables("http_host") & request.servervariables("script_name")  query = spli

Python字符串和文件操作常用函数分析_python

本文实例分析了Python字符串和文件操作常用函数.分享给大家供大家参考.具体如下: # -*- coding: UTF-8 -*- ''' Created on 2010-12-27 @author: sumory ''' import itertools def a_containsAnyOf_b(seq,aset): '''判断seq中是否含有aset里的一个或者多个项 seq可以是字符串或者列表 aset应该是字符串或者列表''' for item in itertools.ifilte