Python 爬虫之模拟登陆CSND
工具
基本的脚本语言是Python,虽然不敢说是最好的语言,至少是最好的之一(0.0),用模拟登陆,我们需要用到多个模块,如下:
requests
BeautifulSoup
requests
安装
下载源码安装
git clone git://github.com/kennethreitz/requests.git
cd requests
pip install .
pip
pip install requests
BeautifulSoup
介绍
Beautiful Soup 是一个可以从HTML或XML文件中提取数据的Python库.它能够通过你喜欢的转换器实现惯用的文档导航,查找,修改文档的方式.Beautiful Soup会帮你节省数小时甚至数天的工作时间.
安装
easy_install beautifulsoup4
pip install beautifulsoup4
使用
from bs4 import BeautifulSoup
soup = BeautifulSoup(open("index.html"))
soup = BeautifulSoup("<html>data</html>", 'lxml')
说明
requests主要是为了利用requests的高级会话机制,requests的会话对象可以让我们跨请求保持某些参数,比如cookies, headers等,
会话对象让你能够跨请求保持某些参数。它也会在同一个 Session 实例发出的所有请求之间保持 cookie, 期间使用 urllib3 的 connection pooling 功能。所以如果你向同一主机发送多个请求,底层的 TCP 连接将会被重用,从而带来显著的性能提升。
而BeautifulSoup主要是方便解析HTML源码,从中获取请求需要的一些参数
完整代码
# -*- coding: UTF-8 -*-
from bs4 import BeautifulSoup
import requests
s = requests.Session()
class CSDN:
def __init__(self, username, password):
self.username = username
self.password = password
self.login_url = 'https://passport.csdn.net/account/login'
self.headers = {
'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebK'
'it/537.36 (KHTML, like Gecko) Chrome/61.0.3163.1'
'00 Safari/537.36 OPR/48.0.2685.52',
'Referer': 'http://my.csdn.net/my/mycsdn'
}
def login(self):
params = {
'from': 'http://my.csdn.net/my/mycsdn'
}
html = s.get(self.login_url, params=params, headers=self.headers)
soup = BeautifulSoup(html.content, 'lxml')
lt = soup.select('input[name="lt"]')[0].get('value')
execution = soup.select('input[name="execution"]')[0].get('value')
event_id = soup.select('input[name="_eventId"]')[0].get('value')
data = {
'username': self.username,
'password': self.password,
'rememberMe': 'true',
'lt': lt,
'execution': execution,
'_eventId': event_id
}
r = s.post(self.login_url, data=data)
self.headers['Referer'] = 'http://passport.csdn.net/account/login?from=http%3A%2F%2Fmy.csdn.net%2Fmy%2Fmycsdn'
resp = s.get('http://my.csdn.net/my/mycsdn', headers=self.headers)
print(resp.text)
username = input('请输入账号:')
password = input('请输入密码:')
cs = CSDN(username, password)
cs.login()
项目地址: 模拟京东登录
吐槽QQ群: 173318043