.Net 为什么没有网络爬虫!!! 大神搭建一个吧!!!!

问题描述

请求.net大神搭建一个!!!

解决方案

解决方案二:
YOUMEIYOU
解决方案三:
网络爬虫都是要定向写的,哪有通用的
解决方案四:
你说的是方法?还是爬具体某个网站?后者的话你还是老老实实自己写吧,前者,不就是获取http返回的内容么?c#发个http请求总会吧
解决方案五:
比如你抓网易新闻列表,分析列表结构,url结构,取标题,内容,生成索引
解决方案六:
都是有针对性的抓吧,不过有些通用的部分可以考虑写出来共享
解决方案七:
爬虫其实并不难写,主要是有这个需要么?难道还想做一个百度?要根据需求来做才是,比如说一些网站采CSDN的信息然后做成垃圾站,针对性做还好,不然爬N层真心没必要
解决方案八:
如果你想爬别人网站上面的数据有专门的工具,你可以百度搜索一下,你要想写代码那就每个网站么个页面都得自己写。
解决方案九:

解决方案十:

解决方案十一:
有爬虫的codeproject上面有。不过这个东西运行效率不高。爬虫一定要高效百度的爬虫是c做出来的。连c++都不能有。我那时候被面试。上面明确表明linux加c。不能写成c++因为c++效率也下降了一点。
解决方案十二:
去OSChina,看一下NCrawler,据说是C#写的
解决方案十三:
不同的站点数据匹配是不一样的。并没有通用的。
解决方案十四:
提供个思路吧:1.利用正则表达式分析网页中的连接2.递归的去爬取网页的链接3.为了去除已经爬过的网站,利用hash其实写爬虫最多遇到的问题是服务器屏蔽爬虫,所以怎么和服务器斗智斗勇是最关键的。。。

时间: 2024-09-23 20:15:54

.Net 为什么没有网络爬虫!!! 大神搭建一个吧!!!!的相关文章

游戏-求网络设置大神一个诡异的问题。。。。

问题描述 求网络设置大神一个诡异的问题.... 本人同一台笔记本,为什么在公司登陆游戏就卡住,回到家就可以正常进入游戏,很流畅的玩,网上说的改mtu值也改了,但是在公司登陆的时候仍然卡住进不了游戏,请问有木有懂电脑的大神指导下到底哪里的问题....我感觉跟mtu值没有关系,倒腾好几天了.跪求解答!!!! 补充:1.家里公司都是无线网.ip设置是自动获取. 2.都是10兆网络,特意下载了几个东西试了下跟网速无关. 3公司跟家里都是联通的网 解决方案 公司的socket端口封了吧 解决方案二: 试试

遇到一个棘手的问题,需要java网络编程大神帮忙解答下~

问题描述 遇到一个棘手的问题,需要java网络编程大神帮忙解答下~ 问题是这样的: 我把MINA核心的非阻塞轮训方式的的代码用JDK7的AIO异步IO替换了,现在已经包装完成,测试的时候遇到两个问题: 测试的是这样的,服务端启动后20秒后释放所有资源关闭,客户端启动15秒后释放所有资源关闭,大部分情况下测试都是正常的,但是偶尔会出现客户端服务端都关闭后,再次启动服务的过程后,要么服务端抛出AsynchronousCloseException,客户端抛出远程主机强迫关闭一个现有连接:要么是客户端的

原始套接字-VPN到底是什么东西,有几个问题请教一下网络编程大神

问题描述 VPN到底是什么东西,有几个问题请教一下网络编程大神 1.有人说VPN能把系统的所有流量代理走,那么包不包括使用RAW Socket(原始套接字)发送的链路层数据帧呢? 2.VPN究竟是什么鬼?那PPTP协议是什么鬼?我能用原始套接字模拟PPTP连接吗,PPTP协议到底是什么协议,百度上有人说PPTP是第二层协议,那不就是链路层协议吗,还有人说PPTP基于TCP,我也是醉了.请问有没有关于VPN协议的书籍? 解决方案 vpn工作在ip层,RAW Socket的包不能保留,必须做修改,对

通讯录-新手请教大神们一个问题。

问题描述 新手请教大神们一个问题. 刚学习android,想做一个关于短信的小应用,我想在通讯录获得联系人,但是不是获得一个联系人,也不是全部的,就想调用那个短信群发的时候会跳转到的可以多选联系人界面上,如果是普通的通讯录我会调用: Intent intent = new Intent(Intent.ACTION_PICK ContactsContract.Contacts.CONTENT_URI); 但是调用那个多选联系人的通讯录界面我就不会了.百度也没找到有关的资料,所以请教一下各位大神!谢

视频-急求,大神解答一个定制摄像头问题

问题描述 急求,大神解答一个定制摄像头问题 在iPhone上同时打开前后两个摄像头录制视频能实现嘛?能给个思路吗? 解决方案 连个摄像头都打开这个还算是苹果的专利呢:http://mobile.qudong.com/2013/0830/151841.shtml 解决方案二: 没有试过,但是按照一般思路看来是不能实现的吧 解决方案三: 能不能弄两个控制系统,一个开始前置摄像头,一个控制后面摄像头

编程题-求大神破解一个算法,手机号转为6位数的16进制的数好像是!!

问题描述 求大神破解一个算法,手机号转为6位数的16进制的数好像是!! 输入 -------------------------**输出** 18019617815-------------C90381 18012509150-------------32ECB9 18120150106@njxy-----CC6AAF 18120150151@njxy-----F2F3F6 求大神能看出来这是什么算法,怎么计算的

连接-求大神解答一个关于三层交换机的问题

问题描述 求大神解答一个关于三层交换机的问题 求大神解答,我现在有个关于三层交换机的问题. 现在有几台电脑连接在了交换机的端口上,还有一条网线是连接外网的,这几台电脑是能上网的..但是现在我想其中两台电脑A和B之间要能通信,并且是稳定的,但是外网不能访问A,可是要求B能跟其他电脑能双向通信. 解决方案 所有可以上网的电脑走一个vlan,A走另一个vlan,B走trunk:写路由.这个事情用三层交换机太奢侈了 解决方案二: 交换机上设置特别的rule,允许A的From MAC地址是B的 解决方案三

跪求大神给一个sql分类汇总语句

问题描述 跪求大神给一个sql分类汇总语句 10C 现有两张表:Dept:ID DName ParentDept1 总经办 02 行政部 13 企划部 1Leave:ID UserName Udept Uposition Lstart Lend Lstatus Lstype 1 张三 2 科员 2015-06-09 2015-06-10 2 12 李四 3 职员 2015-06-22 2015-06-25 3 23 王五 2 职员 2015-05-19 2015-05-22 3 2要求先按照Ud

求大神给一个基于51单片机的波形发生器

问题描述 求大神给一个基于51单片机的波形发生器 如题,要求能通过DA模块显示方波三角波正弦波阶梯波并且幅值频率可调 解决方案 http://wenku.baidu.com/link?url=fvKF2bZRH9nGAFtwgy90fZM6VTFUZU5JgsdDfpXCubk0uK_J5F9ROULNUGWxwVqljLB7AhZWaJOY1UHiqFl1BtSc5Y7KCTPhEJonCEp13t7