使用Python爬取BNUZ TMS系统的考试科目信息

最近TMS系统又提前放出了考试科目信息，但是找不到半年前写的Java爬虫了T_T，没办法，就拿刚学的Python再写一个吧。

• TMS系统：教学管理系统
• Python版本：3.6
• 使用第三方库：requests

1. 进行模拟登陆

通过分析登录页可以发现登陆的表单除了username和password以外，还有一个_csrf，这个字段除了表面上的防止CSRF攻击，还有一个重要的作用——防止表单重复提交，这个字段在进行GET请求登录页时便与session绑定，所以也说明爬虫必须维护登陆状态，否则就没办法爬到信息。

(1) session.py - 维护登陆状态

# 欺骗用Headers
headers = {'Connection': 'keep-alive','Accept': 'application/json, text/plain, */*','User-Agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/66.0.3359.181 Safari/537.36','Accept-Encoding': 'gzip, deflate','Accept-Language': 'zh-CN,zh;q=0.9,ja;q=0.8',
}# 启动Session，自动响应Set-Cookie头
session = requests.Session()# 将Headers设置到session中
session.headers.update(headers)# 使用session发起GET请求
def get(url, **kwargs):return session.get(url, **kwargs)# 使用session发起POST请求
def post(url, params=None, **kwargs):return session.post(url, params, **kwargs)

使用requests.Session()创建一个Session对象，该对象能自动响应Set-Cookie，并且也能将JSESSIONID放入Request Header的Cookie当中，所以使用这个就能解决登陆状态的保持问题。

当然看来系统也做了一点防爬虫的措施，需要伪造一下header，在浏览器中执行一次登陆，然后把header拿过来就可以了，使用session.headers.update(headers)使每次请求都带上这些header。

(2) login.py - 获取登录页内容、模拟登陆

首先需要GET一下登录页，除了获取_csrf字段以外，还可以拿到Set-Cookie，使得CSRF Token和Session在服务端进行了绑定。

# 解析登陆页的HTML，用于获取表单中的CSRF Token
class MyHtmlParser(HTMLParser):def __init__(self):super().__init__()self._token = None# CSRF Token@propertydef token(self):return self._tokendef error(self, message):passdef handle_starttag(self, tag, attrs):# 从标签中获取属性值def _attr(attrName):for attr in attrs:if attr[0] == attrName:return attr[1]return None# 获取表单中的CSRF Token# input -> id="csrf_token":if tag == "input":for name, value in attrs:if name == "id" and value == "csrf_token":self._token = _attr("value")# 获取CSRF Token，用于进行安全验证
def getCsrfToken():response = session.get(loginUrl)parser = MyHtmlParser()parser.feed(response.text)parser.close()return parser.token

通过继承HTMLParser，并且重写handle_starttag去获取_csrf，并且将值设置为类属性，这样就能在GET请求后获取到Token的值了。

然后就可以将_csrf连同账号密码一起提交了，requests会自动处理好各种302重定向，如果账号密码正确则登陆成功，否则会跳到登陆失败页（登录页后缀多了?error）。

# 登陆TMS系统
def login():token = getCsrfToken()# 获取账号与密码username = input("输入教务账号：")password = input("输入教务密码：")data = {'username': username,'password': password,'_csrf': token}# 执行登陆response = session.post(loginUrl, data)if response.url == loginFailUrl:print("账号或密码错误！")return Falseelse:print("登陆成功")return True

2. 爬取内容

通过分析教室使用情况这个页面，可以看出全部请求都是异步的，并且都是访问的RESTful API，那么问题就很简单了，直接爬API就行了。

# 教室使用情况API的基础URL
baseUrl = "http://tm.bnuz.edu.cn/api/"# 教学楼API URL
buildingsUrl = baseUrl + "place/buildings"# 教室API URL
placesUrl = buildingsUrl + "/:building/places"# 教室使用情况API URL
usagesUrl = placesUrl + "/:place/usages"

通过分析请求可以得到以上3个API，从教学楼到教室使用情况，层层叠加的API，那么先把请求的函数写出来。

# 获取教学楼
def getBuildings():response = session.get(buildingsUrl)return response.json()# 获取教室
def getPlaces(building):url = placesUrl.replace(":building", building)response = session.get(url)return response.json()# 获取教室使用情况
def getUsages(building, place):url = usagesUrl.replace(":building", building).replace(":place", place)response = session.get(url)return response.json()

通过分析可以知道：

• Building API中的Building字段是所有的教学楼
• Place API需要Building的名字，返回教学楼下的教室列表
• Usage API需要Building的名字与Place的ID，返回使用情况列表

再继续分析Usage API的返回内容，可以发现进行考试的type : ks，其他字段的意思也很好猜，description就是考试科目名等等，然后期末的考试周是在17-18周，所以进行三层for嵌套，最后进行if判断是否为期末考试科目就能完成这个爬虫。

# 打印考试周的考试科目
def printTestClass():print("开始获取考试科目信息...\n")buildings = getBuildings()for building in buildings['buildings']:places = getPlaces(building)for place in places:usages = getUsages(building, place["id"])for usage in usages:startWeek = usage["startWeek"]_type = usage["type"]if _type == "ks" and startWeek == 18 or startWeek == 19:placeName = place["name"]department = usage["department"]subject = usage["description"]dayOfWeek = usage["dayOfWeek"]startSection = usage["startSection"]totalSection = usage["totalSection"]endSection = startSection + totalSection - 1print("{} {} {} 第{}周 星期{} 第{} - {}节".format(department, subject, placeName,startWeek,dayOfWeek,startSection, endSection))print("\n考试科目获取完毕，祝您愉快 >_+<")

项目源码：bnuz_tms_usages_crawler