东西和材料
- QQ群 – Javascript高等爬虫 – 作者自建群,迎接到场!
- awesome-java-crawler – 作者网络的爬虫相干东西和材料
正文
正在尝试改用NodeJS编写爬虫,http要求库挑选了request,用起来照样挺简朴的。
如今有个需求,需要用Fiddler抓包我发出去的要求,以便和浏览器发出去的包举行对照。
由于需要在Fiddler中解密HTTPS报文,需要让node要么疏忽证书平安,要么信托Fiddler的CA证书。
网上找了一圈,总结以下:
要领一:设置环境变量
- 设置环境变量NODE_TLS_REJECT_UNAUTHORIZED=0
- 即”不谢绝未认证的证书”
- 然则直接修正体系环境变量比较风险,由于会影响到一切nodejs的顺序;比较稳妥的方法是剧本中挪用
process.env["NODE_TLS_REJECT_UNAUTHORIZED"] = 0;
如许仅对本历程见效
要领二:每要求零丁设置疏忽证书平安
- 上述要领照样有肯定风险,由于当前nodejs历程都受此全局设置影响
- 能够在request的options中增加
rejectUnauthorized: false
选项来针对单个要求疏忽证书搜检 固然也能够用request.defaults直接设置默许选项
const request = require("request").defaults({ proxy: "http://127.0.0.1:8888", rejectUnauthorized: false, }) request.get("https://www.baidu.com").on("response", console.log)
要领三:运用Fiddler的CA证书
- 这个要领是最稳妥的,不会让你的子体系发生任何溢出影响
- 首先在Fiddler内把其根证书导出到桌面:Tools -> Options -> HTTPS -> Actions -> Export Root Certificate to Desktop
- 导出的文件是个.cer证书,经测试nodejs不直接支撑,需要用openssl转换成PEM花样(我的openssl是cygwin装的)
openssl x509 -inform DER -in FiddlerRoot.cer -outform PEM -out fiddler.pem
- 把转换出来的fiddler.pem放到你的顺序能接见的位置
运用
ca
选项来指定CA证书const request = require("request").defaults({ proxy: "http://127.0.0.1:8888", ca: require("fs").readFileSync("path/to/fiddler.pem", {encoding: "utf-8"}), }) request.get("https://www.baidu.com").on("response", console.log)
别的:request固然也支撑自署名证书,不过我临时没这方面需求,就没继承探索了