Python 爬虫程序 PySpider

问题描述

PySipder 是一个 Python 爬虫程序演示地址：**://demo.pyspider.org/使用 Python 编写脚本，提供强大的 APIPython 2&3强大的 WebUI 和脚本编辑器、任务监控和项目**和结果查看支持 JavaScript 页面后端系统支持：MySQL, MongoDB, SQLite, Postgresql支持任务优先级、重试、定期抓取等分布式架构示例代码：from pyspider.libs.base_handler import * cl** Handler(BaseHandler): crawl_config = { } @every(minutes=24 * 60) def on_start(self): self.crawl('**://scrapy.org/', callback=self.index_page) @config(age=10 * 24 * 60 * 60) def index_page(self, response): for each in response.doc('a').**s(): self.crawl(each.attr.href, callback=self.detail_page) def detail_page(self, response): return { "url": response.url, "title": response.doc('title').text(), }