我最近要求客户为他们的保险业务建立一个网站.作为其中的一部分,他们希望为其中一个提供商对报价网站进行一些屏幕抓取.他们问他们是否是一个API来做这件事,并被告知没有一个,但如果他们能从他们的引擎获取数据,他们就可以按照自己的意愿使用它.

我的问题：是否有可能对表单提交到另一个站点的响应执行屏幕抓取？如果是这样,我应该注意哪些问题.除了明显的法律/道德问题,因为他们已经要求获得我们计划做的事情的许可.

顺便说一句,我更喜欢在python中进行任何处理.

谢谢

最佳答案 一个非常好的屏幕抓取库是
mechanize,我相信它是用Perl编写的原始库的克隆.无论如何,结合
ClientForm模块,以及来自BeautifulSoup的一些额外帮助,你应该离开.

我在Python中编写了大量的屏幕抓取代码,这些模块最有用.理论上可以通过简单地使用标准库中的urllib2或httplib模块完成mechanize所做的大部分工作,但是mechanize使这些东西变得轻而易举：本质上它为您提供了一个程序化浏览器(注意,它不需要浏览器工作,但mearly为您提供一个行为类似于完全可定制的浏览器的API.

对于后期处理,我在BeautifulSoup上取得了很大的成功,但lxml.html也是一个不错的选择.

基本上,你可以在Python中做到这一点,你的结果应该非常好用于各种工具.