python模拟登录中国海洋大学教务系统（青果）- 爬取学期所有专业课至excel - 并进行课表排课（二）

2024-03-26 18:48
文章标签 python 进行 系统 excel 登录 模拟 排课 中国 所有 爬取 教务 专业课 学期 青果 课表 海洋大学

本文主要是介绍python模拟登录中国海洋大学教务系统（青果）- 爬取学期所有专业课至excel - 并进行课表排课（二），希望对大家解决编程问题提供一定的参考价值，需要的开发者们随着小编来一起学习吧！

本章内容包含python爬取中国海洋大学教务系统 2021年秋季学期 2018-2020年级所有计算机专业课 至excel。

系列文章目录

第一章 python模拟登录中国海洋大学教务系统（青果）
第二章 爬取学期所有专业课至excel
第三章 课表排课

本来只是想爬个课表，排个课，可惜不能直接爬，需要登录上教务网站，所以就有了第一篇文章。

文章目录

  • 系列文章目录
  • 前言
  • 一、将表格内容写入excel
  • 二、使用循环，爬取2018-2020级的专业课
  • 三、全部代码及运行效果
  • 四、遇到的问题
  • 总结

前言

第一篇已经实现了登录教务网站，并跳转至选课页面，同时也有了页面表格输出。

因为是转专业，每次进入都要选择目标专业，还要选目标年级，很麻烦，所以想一次性把2018级到2020级的专业课都爬下来，之后再用算法排课。

一、将表格内容写入excel

1.先观察选课页面的表格

请添加图片描述
表格中有两列”教学大纲“”教学日历“一直是空的，所以没必要爬下来

再根据上一章爬下来的内容，可以知道表格中有几列隐藏列也是空的，，所以也没必要爬

需要安装库 pip install openpyxl

Python官方库一般使用xlrd库来读取Excel文件，使用xlwt库来生成Excel文件，使用xlutils库复制和修改Excel文件，这三个库只支持到Excel2003。
第三方库openpyxl（可读写excel表），专门处理Excel2007及以上版本产生的xlsx文件，xls和xlsx之间转换容易。

该部分代码：

from openpyxl import load_workbook,Workbookdef get_data(session):
...
...table_node = soup.find_all('td')for table in table_node:if table.has_attr('style') == False:    #不是隐藏列if table.text != "教学大纲" and table.text != "教学日历":if table.has_attr('name'):    #具有属性nameif table['name'] != "jxdg" and table['name'] != "jxrl":      #不是空列sheet.cell(a,b,table.text)      #写入表格else: 				#不具有属性namesheet.cell(a,b,table.text)      #写入表格
...if __name__ == '__main__':try:wb = load_workbook('排课.xlsx')	#加载薄except:wb = Workbook()                 #新建薄sheet = wb.active	#打开簿中第一个表#sheet = wb.create_sheet()	#新建表
...wb.save('排课.xlsx')

二、使用循环，爬取2018-2020级的专业课

循环，传参sel_nj-选择的年级

主要是声明两个全局变量，控制行和列

变量只是一个普通变量，首先在函数外部进行初始化，然后在函数内部通过global关键字呼叫这个变量，就可以实现全局变量的功能了。 ——python中的全局变量(global关键字)

该部分代码：

a=1
b=1def get_data(session, sel_nj):	#选择的年级global aglobal bformdata={
...'sel_nj': sel_nj,#选择的年级2018-2020
...}
...
...for table in table_node:if table.has_attr('style') == False:    #不是隐藏列if table.text != "教学大纲" and table.text != "教学日历":if table.has_attr('name'):    #具有属性nameif table['name'] != "jxdg" and table['name'] != "jxrl":      #不是空列sheet.cell(a,b,table.text)      #写入表格b=b+1	#列加一if table['name'] == "bz":   #该换行了 b=1	#第一列a=a+1	#行加一else:						#不具有属性namesheet.cell(a,b,table.text)      #写入表格b=b+1if table.text == "备注":   #该换行了 b=1a=a+1...
def logon():
...for i in range(2018,2021):get_data(session,i)
...

三、全部代码及运行效果

import requests
from aip import AipOcr
import base64
from hashlib import md5
import json
import re
from bs4 import BeautifulSoup
from time import time#创建新薄 新表
from openpyxl import load_workbook,Workbooka=1
b=1
headers = {'Host': 'jwgl.ouc.edu.cn','Origin': 'http://jwgl.ouc.edu.cn','Referer': 'http://jwgl.ouc.edu.cn/cas/login.action','User-Agent': 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_15_6) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/91.0.4472.114 Safari/537.36','X-Requested-With': 'XMLHttpRequest','Upgrade-Insecure-Requests': '1',
}#data和headers一样，并没有传全部的项
data = {'randnumber': 'gqzd'
}
#百度智能云-文字识别
def randnumber_ocr(image):APP_ID = ''  # 在百度官网的应用列表中查看APP_IDAPI_KEY = ''  # 在百度官网的应用列表中查看API_KEYSECRET_KEY = ''  # 在百度官网的应用列表中查看SECRET_KEYclient = AipOcr(APP_ID, API_KEY, SECRET_KEY)text = client.basicAccurate(image)if text['words_result_num'] == 1:return text['words_result'][0]['words'].strip()else:return ''def get_data(session, sel_nj):global aglobal burl = 'http://jwgl.ouc.edu.cn/taglib/DataTable.jsp?tableId=6146'
#这个data包含了所有项，但有些其实的非必须的formdata={'initQry': '0','xktype': '2',#选课类型'xh': '',#你的学号'xn': '2021',#学年'xq': '1',#学期-夏0-秋1-春2'nj': '',#你的年级'zydm': '',#你的专业代码'items': '','xnxq': '2021-1',#学年-学期'kcfw': 'Specialty',#课程范围'sel_nj': sel_nj,#选择的年级2018-2020'sel_zydm': '0011',#选择的专业代码'sel_schoolarea': '','sel_cddwdm': '','sel_kc': '','kcmc': ''}
#这个headers必须包含Refererheaders['Referer'] = 'http://jwgl.ouc.edu.cn/student/wsxk.kcbcx.html?menucode=JW130414'
#使用sessionr = session.post(url,data=formdata, headers=headers)soup = BeautifulSoup(r.text, 'html.parser')table_node = soup.find_all('td')for table in table_node:if table.has_attr('style') == False:    #不是隐藏列if table.text != "教学大纲" and table.text != "教学日历":if table.has_attr('name'):    #具有属性nameif table['name'] != "jxdg" and table['name'] != "jxrl":      #不是空列sheet.cell(a,b,table.text)      #写入表格b=b+1if table['name'] == "bz":   #该换行了 b == 15:#23b=1a=a+1else:sheet.cell(a,b,table.text)      #写入表格b=b+1if table.text == "备注":   #该换行了 b == 15:#23b=1a=a+1session.close()def logon():start = time()url = 'http://jwgl.ouc.edu.cn/cas/logon.action'username = ''  # 输入你的用户名，也就是学号password = ''  # 输入你的密码session = requests.Session()#百度智能云-文字识别-获取验证码    randnumber = ''while len(randnumber) != 4:r = session.get('http://jwgl.ouc.edu.cn/cas/genValidateCode', headers=headers)      randnumber = randnumber_ocr(r.content).replace(' ','')#去除空格#构造data-信息加密        password = md5(password.encode('utf-8')).hexdigest()randnumber_s = md5(randnumber.lower().encode('utf-8')).hexdigest()password = md5((password + randnumber_s).encode('utf-8')).hexdigest()
#sessionid是会话的id，一般是存放在cookie中_sessionid = session.cookies.get_dict()['JSESSIONID']username = base64.b64encode(username.encode('utf-8') + b';;' + str(_sessionid).encode('utf-8'))
#randnumber会在之前通过百度智能云文字识别获得data['randnumber'] = randnumberp_username = '_u' + randnumberp_password = '_p' + randnumberdata[p_username] = usernamedata[p_password] = password
#post    r = session.post(url, data=data, headers=headers)
#response    info = json.loads(r.text)status = info['status']if status == '401':print('验证码错误')returnelif status == '200':passelse:print(info['message'])returnprint('登录成功')for i in range(2018,2021):get_data(session,i)end = time()print('总共用时' + str(end - start))if __name__ == '__main__':try:wb = load_workbook('排课.xlsx')	#加载薄except:wb = Workbook()                 #新建薄sheet = wb.active	#打开簿中第一个表#sheet = wb['biaoge_name']	#打开薄中 名字为biaoge_name的表#sheet = wb.create_sheet()	#新建表logon()wb.save('排课.xlsx')

在这里插入图片描述

四、遇到的问题

TimeoutError: [WinError 10060] 由于连接方在一段时间后没有正确答复或连接的主机没有反应，连接尝试失败。

没连 VPN

    wb= load_workbook('排课.xlsx')#加载薄
NameError: name 'load_workbook' is not defined

要 from openpyxl import load_workbook

    wb.creat_sheet('xinbiao2')
AttributeError: 'Workbook' object has no attribute 'creat_sheet'

create_sheet 拼写错误

	sheet.cell(a,b,table.text)
ValueError: Row or column values must be at least 1

cell 的行和列都要从1开始

KeyError: 'name'

这种 KeyError 错误一般都是因为没有这个东西，
以本程序为例，有些table含有name属性，有些不含，如果不加判断的去写就会报错

只能是 tag.text 和 tag[‘id’]、tag[‘name’]
这个不太确定，看别人有用 tag.id/name
但本程序是 tag.id/name = None

总结

1.全局变量，首先在函数外部进行初始化，然后在函数内部通过global关键字呼叫这个变量。
·a=1·
·def func:·
········global a·

2.python没有a++
·a=a+1·

3.进行解析后，Tag是否具有某种属性
·if table.has_attr('name'): #具有属性name·

4.筛选具有某种属性的Tag
关于python：测试BeautifulSoup中的标签中是否存在属性
·script_tags = soup.find_all('script', some_attribute=True)·

·script_tags = soup.find_all('script', {"some-data-attribute": True})·

5.为什么要from … import …
python中为什么大佬都爱用from import
因为导入包名其实是无法直接使用包内的子包和模块的

6.openpyxl
python之openpyxl模块

openpyxl中有三个不同层次的类Workbook是对工作簿的抽象Worksheet是对表格的抽象Cell是对单元格的抽象每一个类都包含了许多属性和方法
Excel基本操作打开或者创建一个Excel，需要创建一个Workbook对象使用Workbook对象的方法来得到一个Worksheet对象得到Worksheet对象以后再从中获取代表单元格的Cell对象

常用：

·wb = load_workbook('排课.xlsx') #加载薄·

·wb = Workbook() #新建薄·

·sheet = wb.active #打开簿中第一个表·

·sheet = wb['biaoge_name'] #打开薄中 名字为biaoge_name的表·

·sheet = wb.create_sheet() #新建表·

·sheet.cell(行,列,内容) #修改单元格内容·

·wb.save('排课.xlsx') #保存薄·

收获多多 \OoO/

码字不易，感谢点赞评论收藏关注~

这篇关于python模拟登录中国海洋大学教务系统（青果）- 爬取学期所有专业课至excel - 并进行课表排课（二）的文章就介绍到这儿，希望我们推荐的文章对编程师们有所帮助！


http://www.chinasem.cn/article/849508。

相关文章

Python调用Orator ORM进行数据库操作

Python调用Orator ORM进行数据库操作

《Python调用OratorORM进行数据库操作》OratorORM是一个功能丰富且灵活的PythonORM库,旨在简化数据库操作,它支持多种数据库并提供了简洁且直观的API,下面我们就... 目录Orator ORM 主要特点安装使用示例总结Orator ORM 是一个功能丰富且灵活的 python O
阅读更多...
Nginx设置连接超时并进行测试的方法步骤

Nginx设置连接超时并进行测试的方法步骤

《Nginx设置连接超时并进行测试的方法步骤》在高并发场景下,如果客户端与服务器的连接长时间未响应,会占用大量的系统资源,影响其他正常请求的处理效率,为了解决这个问题,可以通过设置Nginx的连接... 目录设置连接超时目的操作步骤测试连接超时测试方法：总结：设置连接超时目的设置客户端与服务器之间的连接
阅读更多...
Python使用国内镜像加速pip安装的方法讲解

Python使用国内镜像加速pip安装的方法讲解

《Python使用国内镜像加速pip安装的方法讲解》在Python开发中,pip是一个非常重要的工具,用于安装和管理Python的第三方库,然而,在国内使用pip安装依赖时,往往会因为网络问题而导致速... 目录一、pip 工具简介1. 什么是 pip？2. 什么是 -i 参数？二、国内镜像源的选择三、如何
阅读更多...
python使用fastapi实现多语言国际化的操作指南

python使用fastapi实现多语言国际化的操作指南

《python使用fastapi实现多语言国际化的操作指南》本文介绍了使用Python和FastAPI实现多语言国际化的操作指南,包括多语言架构技术栈、翻译管理、前端本地化、语言切换机制以及常见陷阱和... 目录多语言国际化实现指南项目多语言架构技术栈目录结构翻译工作流1. 翻译数据存储2. 翻译生成脚本
阅读更多...
如何通过Python实现一个消息队列

如何通过Python实现一个消息队列

《如何通过Python实现一个消息队列》这篇文章主要为大家详细介绍了如何通过Python实现一个简单的消息队列,文中的示例代码讲解详细,感兴趣的小伙伴可以跟随小编一起学习一下... 目录如何通过 python 实现消息队列如何把 http 请求放在队列中执行1. 使用 queue.Queue 和 reque
阅读更多...
Python如何实现PDF隐私信息检测

Python如何实现PDF隐私信息检测

《Python如何实现PDF隐私信息检测》随着越来越多的个人信息以电子形式存储和传输,确保这些信息的安全至关重要,本文将介绍如何使用Python检测PDF文件中的隐私信息,需要的可以参考下... 目录项目背景技术栈代码解析功能说明运行结php果在当今，数据隐私保护变得尤为重要。随着越来越多的个人信息以电子形
阅读更多...
使用 sql-research-assistant进行 SQL 数据库研究的实战指南(代码实现演示)

使用 sql-research-assistant进行 SQL 数据库研究的实战指南(代码实现演示)

《使用sql-research-assistant进行SQL数据库研究的实战指南(代码实现演示)》本文介绍了sql-research-assistant工具,该工具基于LangChain框架,集... 目录技术背景介绍核心原理解析代码实现演示安装和配置项目集成LangSmith 配置（可选）启动服务应用场景
阅读更多...
使用Python快速实现链接转word文档

使用Python快速实现链接转word文档

《使用Python快速实现链接转word文档》这篇文章主要为大家详细介绍了如何使用Python快速实现链接转word文档功能,文中的示例代码讲解详细,感兴趣的小伙伴可以跟随小编一起学习一下... 演示代码展示from newspaper import Articlefrom docx import
阅读更多...
前端原生js实现拖拽排课效果实例

前端原生js实现拖拽排课效果实例

《前端原生js实现拖拽排课效果实例》：本文主要介绍如何实现一个简单的课程表拖拽功能,通过HTML、CSS和JavaScript的配合,我们实现了课程项的拖拽、放置和显示功能,文中通过实例代码介绍的... 目录1. 效果展示2. 效果分析2.1 关键点2.2 实现方法3. 代码实现3.1 html部分3.2
阅读更多...
Python Jupyter Notebook导包报错问题及解决

Python Jupyter Notebook导包报错问题及解决

《PythonJupyterNotebook导包报错问题及解决》在conda环境中安装包后,JupyterNotebook导入时出现ImportError,可能是由于包版本不对应或版本太高,解决方... 目录问题解决方法重新安装Jupyter NoteBook 更改Kernel总结问题在conda上安装了
阅读更多...

Copyright China编程 23002807@qq.com

沪ICP备2023033072号-2