asp 小偷采集程序原理与常用函数方法_小偷/采集

用采集程序的优点有:无须维护网站,因为采集程序中的数据来自其他网站,它将随着该网站的更新而更新;可以节省服务器资源,一般采集程序就几个文件,所有网页内容都是来自其他网站。缺点有:

不稳定,如果目标网站出错,程序也会出错,而且,如果目标网站进行升级维护,那么采集程序也要进行相应修改;速度,因为是远程调用,速度和在本地服务器上读取数据比起来,肯定要慢一些。

一、事例
下面就XMLHTTP在ASP中的应用做个简单说明

复制代码 代码如下:

<%
'常用函数
'1、输入url目标网页地址,返回值getHTTPPage是目标网页的html代码
function getHTTPPage(url)
dim Http
set Http=server.createobject("MSXML2.XMLHTTP")
Http.open "GET",url,false
Http.send()
if Http.readystate<>4 then
exit function
end if
getHTTPPage=bytesToBstr(Http.responseBody,"GB2312")
set http=nothing
if err.number<>0 then err.Clear
end function
'2、转换乱玛,直接用xmlhttp调用有中文字符的网页得到的将是乱玛,可以通过adodb.stream组件进行转换
Function BytesToBstr(body)
dim objstream
set objstream = Server.CreateObject("adodb.stream")
objstream.Type = 1
objstream.Mode =3
objstream.Open
objstream.Write body
objstream.Position = 0
objstream.Type = 2
objstream.Charset = "GB2312" '转换原来默认的UTF-8编码转换成GB2312编码,否则直接用XMLHTTP组件调用有中文字符的网页得到的将是乱码
BytesToBstr = objstream.ReadText
objstream.Close
set objstream = nothing
End Function
'下面试着调用http://www.google的html内容
Dim Url,Html
Url="http://www.google";
Html = getHTTPPage(Url)
Response.write Html
%>

二、几个常用的函数
InStr 函数
描述 返回某字符(string2)串在另一字符串(string1)中第一次出现的位置。
语法 InStr(string1, string2)
例如:
Dim SearchString, SearchChar
SearchString ="http://www.google" ' 要在其中搜索的字符串。
SearchChar = "blue1000" ' 搜索 "blue1000"。
MyBK = Instr(SearchString, SearchChar) ' 返回 8
'如果找不到则返回“0”,例如:
SearchChar = "BK"
MyBK = Instr(SearchString, SearchChar) ' 返回 0
Mid 函数
描述: 从字符串中返回指定数目的字符。
语法 Mid(string, start, over)
例如:
Dim MyBK
MyBK = Mid("我们的BK(www.google)设计", 7, 12) '截取字符串"我们的BK(www.google)设计"第7个字符以后的12个字符'此时MyBK的值就变成了"www.google"
Replace 函数
Dim SearchString, SearchChar
SearchString ="我们的BK设计是一个网站建设资源网站" ' 要在其中搜索的字符串。
SearchString =Replace(SearchString,"BK设计","Www.google")'此时SearchString的值就变成了"我们的Www.google是一个网站建设资源网站"

三、截取指定区域的HTML代码
例如我只想获取以下HTML代码中"<td>"和"</td>"之间的的文字部分:
<html>
<title>BK(www.google)谷歌搜索引擎</title>
<body>
<table>
<tr><td></td></tr>
<tr><td id="Content">BK(www.google)谷歌搜索引擎是个资源多多的站点……</td></tr>
</table>
</body>
</html>
<%
……
Dim StrBK,start,over,RsBK
StrBK=getHTTPPage(网页的地址)
start=Instr(StrBK,"<td id=""Content"">") '此处的作用是获取字符串开始地方的定位。这里要有人问了:原来的代码是<td id="Content">,怎么你这里调用的是<td id=""Content"">啊?答案:asp中(准确的说是VBscript中是用两个双引号来表示一个双引号的,因为双引号对于程序来说是个敏感字符。) over=Instr(StrBK,"…</td></tr>")'此处的作用是获取字符串结束地方的定位。'这里又要有人问了:( :程序调用HTML代码干吗前面多出来3个点点"…"啊?答:提示:上面一行也有一个</td></tr>,如果这里用</td></tr>来定位的话,程序会错误地把上面一行的</td></tr>当成欲获取字符串的结束部分了。 RsBK=mid(StrBK,start,over-start) '此处的作用是取出StrBK中第start个字符到第over个字符之间的字符串。mid函数前面一节我也讲过了;over-start是为了计算出开始位置和结束位置之间的距离,也就是字符数。
response.write(RsBK) '最后输出程序获取的内容
%>
不要高兴的太早,当你运行的时候,你会发现页面的html代码有错误,为什么呢?因为你获取的html代码是:<td id="Content">BK(www.google)谷歌搜索引擎是个资源多多的站点…
看到了吧?有残缺的HTML代码啊!怎么办呢?start=Instr(StrBK,"<td id=""Content"">")这个语句获取的是"<td id="Content">"在

StrBK中的位置数,现在我们可以在程序语句的后面加上17,那么程序就会将位置指向<td id="Content">后面的那个字符.
好的,程序将改成这样:
<%
……
Dim StrBK,start,over,RsBK
StrBK=getHTTPPage(网页的地址)
start=Instr(StrBK,"<td id=""Content"">") + 17
over=Instr(StrBK,"…</td></tr>") '这里你也可以减去七(-7)把3个点去掉
RsBK=mid(StrBK,start,over-start)
response.write(RsBK)
%>
这样就OK了,我们就可以将我们想要的东西偷过来显示在我们自己的页面了,呵呵~

四、删掉或修改获取的字符
将RsBK中的"BK(www.google)"换成"BK":
RsBK=replace(RsBK,"BK(www.google)","BK")
或者直接把"(www.google)"删掉:
RsBK=replace(RsBK,"(www.google)","")
好了,现在RsBK就变成了:"BK谷歌搜索引擎是个资源多多的站点……"了.但是事实中,有些情况可能replace函数是不适应的,比如我们想把某个字符串里面的所有连接都去掉.连接可能包括很多种类型,replace只能替代其中特定的一个,我们不可能用一个又一个对应的replace函数来替换吧?

时间: 2024-10-03 16:25:16

asp 小偷采集程序原理与常用函数方法_小偷/采集的相关文章

asp 小偷采集程序原理与常用函数方法

用采集程序的优点有:无须维护网站,因为采集程序中的数据来自其他网站,它将随着该网站的更新而更新:可以节省服务器资源,一般采集程序就几个文件,所有网页内容都是来自其他网站.缺点有: 不稳定,如果目标网站出错,程序也会出错,而且,如果目标网站进行升级维护,那么采集程序也要进行相应修改:速度,因为是远程调用,速度和在本地服务器上读取数据比起来,肯定要慢一些. 一.事例 下面就XMLHTTP在ASP中的应用做个简单说明 复制代码 代码如下: <% '常用函数 '1.输入url目标网页地址,返回值getH

asp 采集程序常用函数分析_小偷/采集

原理 采集程序实际上是通过了XML中的XMLHTTP组件调用其它网站上的网页.比如新闻采集程序,很多都是调用了sina的新闻网页,并且对其中的html进行了一些替换,同时对广告也进行了过滤.用采集程序的优点有:无须维护网站,因为采集程序中的数据来自其他网站,它将随着该网站的更新而更新:可以节省服务器资源,一般采集程序就几个文件,所有网页内容都是来自其他网站.缺点有:不稳定,如果目标网站出错,程序也会出错,而且,如果目标网站进行升级维护,那么采集程序也要进行相应修改:速度,因为是远程调用,速度和在

ASP中的ArrayList类[数组常用函数]

ASP中的ArrayList类[数组常用函数] 使用方法如下:  程序代码 <% dim arr : set arr=new ArrayList arr.add "a" : arr.add "b" : arr.add "c" Response.Write arr.count & "<br>" for i=0 to arr.count-1     Response.Write arr.item(i) &

DEDE采集程序原理

摘要: DEDECMS自带的采集功能,虽然比不上其他专业的采集软件,但对比其他采集程序,在性能上还是非常不错.很多其他程序无法采集下来的网页,使用DEDECMS可以采集得到.比如58同城首页, DEDECMS自带的采集功能,虽然比不上其他专业的采集软件,但对比其他采集程序,在性能上还是非常不错.很多其他程序无法采集下来的网页,使用DEDECMS可以采集得到.比如58同城首页,使用discuz的下载函数采集过来的都是一片空白或者警告内容,但是使用dedecms的下载完全可以下载下来. DEDE采集

PHP 采集程序原理分析篇_php技巧

苦想了几天,终于弄明白了里面的道理.在这里写出来,请高手指正. 采集程序的思路很简单,无非就是先打一个页面,一般都是列表页,取得里面全部链接的地址,然后打开逐条链接,寻找我们感兴趣的东西,如果找到,就把它入库或别的处理.下面以一个很简单的例子来说说. 首先确定一个采集页,一般就是列表面了.这里目标是:http://www.jb51.net/article/11/index.htm.这是一个列表页,我们的目的就是采集这个列表页上全部的文章. 有列表页了,第一步先打开它,把它的内容纳入到我们的程序中

一起谈.NET技术,提高ASP.NET应用程序性能的十大方法

一.返回多个数据集 检查你的访问数据库的代码,看是否存在着要返回多次的请求.每次往返降低了你的应用程序的每秒能够响应请求的次数.通过在单个数据库请求中返回多个结果集,可以减少与数据库通信的时间,使你的系统具有扩展性,也可以减少数据库服务器响应请求的工作量. 如果你是用动态的SQL语句来返回多个数据集,那我建议你用存储过程来替代动态的SQL语句.是否把业务逻辑写到存储过程中,这个有点争议.但是我认为,把业务逻辑写到存储过程里面可以限制返回结果集的大小,减小网络数据的流量,在逻辑层也不用在过滤数据,

提高ASP.NET应用程序性能的十大方法

一.返回多个数据集 检查你的访问数据库的代码,看是否存在着要返回多次的请求.每次往返降低了你的应用程序的每秒能够响应请求的次数.通过在单个数据库请求中返回多个结果集,可以减少与数据库通信的时间,使你的系统具有扩展性,也可以减少数据库服务器响应请求的工作量. 如果你是用动态的SQL语句来返回多个数据集,那我建议你用存储过程来替代动态的SQL语句.是否把业务逻辑写到存储过程中,这个有点争议.但是我认为,把业务逻辑写到存储过程里面可以限制返回结果集的大小,减小网络数据的流量,在逻辑层也不用在过滤数据,

jQuery 常见操作实现方式和常用函数方法总结_jquery

jQuery 常见操作实现方式 $("标签名") //取html元素 document.getElementsByTagName("") $("#ID") //取单个控件document.getElementById("") $("div #ID") //取某个控件中 控件 $("#ID #ID") // 通过控件ID取其中的控件 $("标签.class样式名") /

ASP.net全局程序文件Global.asax用法分析_实用技巧

本文详细讲述了ASP.net全局程序文件Global.asax用法,分享给大家供大家参考.具体分析如下: 一般来说ASP.NET应用程序只能有一个Global.asax文件,该文件支持许多项.具体分析如下: •Application_Start:在应用程序接收到第一个请求时调用,这是在应用程序中给应用程序级的变量赋值或指定对所有用户必须保持的状态的理想位置. •  Session_Start:类似于Application_Start事件,但这个事件在用户第一次访问应用程序时调用.例如,Appli