利用Python爬虫，查询12306车次信息

2023-10-18 12:59
文章标签 python 查询 爬虫 信息 12306 车次

本文主要是介绍利用Python爬虫，查询12306车次信息，希望对大家解决编程问题提供一定的参考价值，需要的开发者们随着小编来一起学习吧！

效果展示：

在这里插入图片描述
在这里插入图片描述

分析目标网站：

  1. 进入12306官网
  2. 以商丘南到汝州为例，在点击查询后会跳转到查询结果的网站

在这里插入图片描述

  1. 右键点检查或审查元素，在弹出的控制台中点网络或network，如果没有显示数据的话，刷新一下网页就有了；在点击Fetch/XHR后会发现有一个名为query...的请求，点开它后再点击预览会发现，车票的信息就在这个里面

在这里插入图片描述
4. 在找到存放的车票信息后，按常理直接对目标链接发送请求即可，但我们通过查看URL携带的参数时，不难发现：
- 第一个参数：查询的日期，固定格式(YYYY-MM-DD)
- 第二个和第三个参数：不同城市对应的英文代码
- 第四个参数：固定值

在这里插入图片描述

获取所有城市英文代码：

  1. 这里不在过多叙述，找到URL链接直接发送请求，获取响应的数据即可，代码如下：
url = "https://kyfw.12306.cn/otn/resources/js/framework/station_name.js?station_version=1.9053"
print("正在获取数据。")
# 发送请求，获取返回的数据
res = requests.get(url)
data = str(res.content, encoding="utf8")
print(data)

在这里插入图片描述

  1. 通过返回的数据可以发现，所有的数据都是以|符号隔开的，所以使用split("|")对数据进行处理，代码如下：
dict_data = dict()
# 根据'|'分隔数据
list_data = data.split('|')
# 从下标'1'开始, 每间隔5个为字典key
result_x = list_data[1:len(list_data):5]
# 从下标'2'开始, 每间隔5个为字典value
result_y = list_data[2:len(list_data):5]
# 循环将数据写入字典
for i in range(len(result_x)):dict_data[result_x[i].replace(" ", "")] = result_y[i]
print(dict_data)
  1. 将数据提取后保存到工作路径的data文件夹下，这样后期使用时，就无需再次对该网站发送请求了，代码如下：
json_data = json.dumps(dict_data, indent=1, ensure_ascii=False)with open("./data/city_data.json", 'w') as w:w.write(json_data)print("数据保存完成！")
  1. 预览city_data.json文件，所有的数据都已保存在了该文件里，共三千多个不同的城市。

完整版代码：

import requests
import jsondef get_city_data():url = "https://kyfw.12306.cn/otn/resources/js/framework/station_name.js?station_version=1.9053"print("正在获取数据。")# 发送请求，获取返回的数据res = requests.get(url)data = str(res.content, encoding="utf8")# 格式化返回的数据response_format(data)def response_format(data):dict_data = dict()# 根据'|'分隔数据list_data = data.split('|')# 从下标'1'开始, 每间隔5个为字典keyresult_x = list_data[1:len(list_data):5]# 从下标'2'开始, 每间隔5个为字典valueresult_y = list_data[2:len(list_data):5]# 循环将数据写入字典for i in range(len(result_x)):dict_data[result_x[i].replace(" ", "")] = result_y[i]# 保存数据save_data(dict_data)def save_data(dict_data):json_data = json.dumps(dict_data, indent=1, ensure_ascii=False)with open("./data/city_data.json", 'w') as w:w.write(json_data)print("数据保存完成！")get_city_data()

获取12306车次的信息：

  1. 在前面成功获取所有城市对应的英文代码后，先让用户输入需要查询的日期、出发地和目的地信息，从文件中提取城市对应的英文代码，代码如下：
date = input("请输入出发日期(YYYY-MM-DD)：")
begin = input("请输入出发地：")
end = input("请输入目的地：")
# 读取生成的json文件
city_list = json.load(open('./data/city_data.json', 'r'))
# 获取城市对应的英文代码
begin_id = city_list[begin]
end_id = city_list[end]
  1. 再获取到城市对应的英文代码后，构建请求头和需要携带的参数，代码如下：
# 请求的目标链接
self.url = "https://kyfw.12306.cn/otn/leftTicket/query"
# 构建请求头
self.headers = {# 失效时，需要更新cookie"Cookie": "JSESSIONID=5BCD4997EB7387D6F2F26CF860144AE6; RAIL_EXPIRATION=1653658158853; RAIL_DEVICEID=OYdRuCkXuonxJIyWihWNwMa5x-JAFt30BYWuZd9lAzHOtXh1TezSjz0oQm9n0TYq3InM3pJKfGexQCQEFpOqkTJq5XqXQ_taNYf1hTlQ6YWdWKWrJosRmvmDdUmt9omgZ2sDBAmcohSg662SJ-55JM97DtJQ0sfA; guidesStatus=off; highContrastMode=defaltMode; cursorStatus=off; BIGipServerotn=384827914.50210.0000; BIGipServerpool_passport=31719946.50215.0000; route=c5c62a339e7744272a54643b3be5bf64; _jc_save_toDate=2022-05-25; _jc_save_wfdc_flag=dc; _jc_save_fromStation=%u5546%u4E18%2CSQF; _jc_save_toStation=%u90D1%u5DDE%2CZZF; _jc_save_fromDate=2022-05-29","User-Agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/101.0.4951.64 Safari/537.36 Edg/101.0.1210.53"
}
# 构建请求所需参数
self.params = {"leftTicketDTO.train_date": date,"leftTicketDTO.from_station": begin_id,"leftTicketDTO.to_station": end_id,"purpose_codes": "ADULT"
}

在这里插入图片描述

  1. 构建完成必须的参数后，发送请求观察返回的数据发现，每条数据间也是由|隔开的，用同样的方法对数据进行分隔，代码如下：
res = requests.get(self.url, headers=self.headers, params=self.params).json()
data_list = res['data']['result']
for data in data_list:all_data_list = data.split('|')# 此处使用枚举，方便后期查看列表下标for i,j in enumerate(all_data_list):print(f"[{i}__{j}]")
  1. 提取列表元素中的数据，获取车次的相关信息，这里直接分享我查找的，不同车次信息对应列表元素的各下标，代码如下：
trains_msg = [all_data_list[3],all_data_list[8],all_data_list[9],all_data_list[10],all_data_list[32] if all_data_list[32] != "" else "--",all_data_list[31] if all_data_list[31] != "" else "--",all_data_list[30] if all_data_list[30] != "" else "--",all_data_list[23] if all_data_list[23] != "" else "--",all_data_list[28] if all_data_list[28] != "" else "--",all_data_list[29] if all_data_list[29] != "" else "--",all_data_list[26] if all_data_list[26] != "" else "--",all_data_list[1] if all_data_list[1] != "" else "--"
]
print(trains_msg)
  1. 到此以可以获取到车次的信息了，但以这种方式显示显然并不友好，下面介绍美化方法！

以表格形式输出车次信息：

  1. 这里我们使用的是prettytable第三方库，这个库可以将我们的数据进行表格化显示，安装方法：pip install prettytable

  2. 导入该模块，并实例化对象：

from prettytable import PrettyTable
# 实例化美化表格对象
self.pt= PrettyTable()
  1. 构建表头，并将提取的数据以表格的形式显示出来：
# 创建表头，即表格的首行信息
header_list = [['车次', '出发时间', '到达时间', '历时', '商务座', '一等座', '二等座', '软卧', '硬卧', '硬座', '无座', '备注']
]
# 将表头信息添加进展示表格的表头
self.pt.field_names = header_list[0]
# 将提取到的车次信息添加到表格的内容信息
self.pt.add_row(trains_msg)
# 打印表格
print(self.pt)
  1. 此时的效果如下图所示，可以清晰的看出表格的对齐有点问题，所有此时为程序增加保存数据的功能！

在这里插入图片描述

将数据保存为Excel表格：

  1. 这里我们使用的是openpyxl第三方库，这个库可以将我们的数据进行表格化显示，安装方法：pip install openpyxl

  2. 导入该模块，并实例化对象：

from openpyxl import Workbook
wb = Workbook()
  1. 因为车次信息是不定的，所有车次少时可以无需保存，这时就需要用户自己选择是否要保存信息了，代码如下：
num = input("如果展示不清晰，需要保存时请扣1：")
if num == "1":wb = Workbook()sheet = wb.create_sheet("车次信息", -1)# 遍历表格索引，写入数据for x in range(len(trains_data_list)):for y in range(len(trains_data_list[x])):sheet.cell(x + 1, y + 1).value = trains_data_list[x][y]wb.save(f"./data/{date}_{begin}_{end}.xlsx")print("数据保存完成！")
  1. 为了更加人性化，这里通过用户输入的日期、出发地和目的地，再拼接出12306购票的直达链接，代码如下：
print("12306直达链接(复制到浏览器打开)：","https://kyfw.12306.cn/otn/leftTicket/init?""linktypeid=dc&"f"fs={begin},{begin_id}&"f"ts={end},{end_id}&"f"date={date}&""flag=N,N,Y"
)
  1. 此时就完全实现了这次的查票查询，谢谢观看~

在这里插入图片描述

最终完整版代码：

  • 这个是我平时做爬虫练习时，汇总的案例的其中之一，代码比较适合新手学习，该Github仓库的爬虫案例也会在以后不断更新，有兴趣学习爬虫的可以来捧捧场哦QwQ。仓库链接：https://github.com/cjladmin/spider_cases
import requests
import json
from openpyxl import Workbook
from prettytable import PrettyTable
from save_city_list import get_city_dataclass GetTrains:def __init__(self, date, begin_id, end_id):self.url = "https://kyfw.12306.cn/otn/leftTicket/query"# 构建请求头self.headers = {# 失效时，需要更新cookie"Cookie": "JSESSIONID=5BCD4997EB7387D6F2F26CF860144AE6; RAIL_EXPIRATION=1653658158853; RAIL_DEVICEID=OYdRuCkXuonxJIyWihWNwMa5x-JAFt30BYWuZd9lAzHOtXh1TezSjz0oQm9n0TYq3InM3pJKfGexQCQEFpOqkTJq5XqXQ_taNYf1hTlQ6YWdWKWrJosRmvmDdUmt9omgZ2sDBAmcohSg662SJ-55JM97DtJQ0sfA; guidesStatus=off; highContrastMode=defaltMode; cursorStatus=off; BIGipServerotn=384827914.50210.0000; BIGipServerpool_passport=31719946.50215.0000; route=c5c62a339e7744272a54643b3be5bf64; _jc_save_toDate=2022-05-25; _jc_save_wfdc_flag=dc; _jc_save_fromStation=%u5546%u4E18%2CSQF; _jc_save_toStation=%u90D1%u5DDE%2CZZF; _jc_save_fromDate=2022-05-29",# "Referer": referer,"User-Agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/101.0.4951.64 Safari/537.36 Edg/101.0.1210.53"}# 构建请求所需参数self.params = {"leftTicketDTO.train_date": date,"leftTicketDTO.from_station": begin_id,"leftTicketDTO.to_station": end_id,"purpose_codes": "ADULT"}# 实例化美化表格对象self.pt = PrettyTable()def run(self):# 对目标网址发送请求res = requests.get(self.url, headers=self.headers, params=self.params).json()data_list = res['data']['result']# 构造表格的表头，用于展示和保存header_list = [['车次', '出发时间', '到达时间', '历时', '商务座', '一等座', '二等座', '软卧', '硬卧', '硬座', '无座', '备注']]# 将表头信息添加进展示表格的表头self.pt.field_names = header_list[0]for data in data_list:# 格式化添加表数据trains_msg = self.format_data(data)# 将数据添加进列表，用于保存header_list.append(trains_msg)# 打印表格print(self.pt)# 返回车次信息列表return header_listdef format_data(self, data):# 将返回的数据以'|'进行分隔all_data_list = data.split('|')# 提取车次的信息trains_msg = [all_data_list[3],all_data_list[8],all_data_list[9],all_data_list[10],all_data_list[32] if all_data_list[32] != "" else "--",all_data_list[31] if all_data_list[31] != "" else "--",all_data_list[30] if all_data_list[30] != "" else "--",all_data_list[23] if all_data_list[23] != "" else "--",all_data_list[28] if all_data_list[28] != "" else "--",all_data_list[29] if all_data_list[29] != "" else "--",all_data_list[26] if all_data_list[26] != "" else "--",all_data_list[1] if all_data_list[1] != "" else "--"]# 增添表内容self.pt.add_row(trains_msg)# 将提取的信息返回，用于保存return trains_msgdef save_data(self, trains_data_list, date, begin, end):num = input("如果展示不清晰，需要保存时请扣1：")if num == "1":wb = Workbook()sheet = wb.create_sheet("车次信息", -1)# 遍历表格索引，写入数据for x in range(len(trains_data_list)):for y in range(len(trains_data_list[x])):sheet.cell(x + 1, y + 1).value = trains_data_list[x][y]wb.save(f"./data/{date}_{begin}_{end}.xlsx")print("数据保存完成！")if __name__ == '__main__':# 更新城市对应的英文代码，需要时再启用# get_city_data()date = input("请输入出发日期(YYYY-MM-DD)：")begin = input("请输入出发地：")end = input("请输入目的地：")# 读取生成的json文件city_list = json.load(open('./data/city_data.json', 'r'))# 获取城市对应的英文代码begin_id = city_list[begin]end_id = city_list[end]gt = GetTrains(date, begin_id, end_id)trains_data_list = gt.run()# 是否需要保存数据gt.save_data(trains_data_list, date, begin, end)print("12306直达链接(复制到浏览器打开)：","https://kyfw.12306.cn/otn/leftTicket/init?""linktypeid=dc&"f"fs={begin},{begin_id}&"f"ts={end},{end_id}&"f"date={date}&""flag=N,N,Y")

这篇关于利用Python爬虫，查询12306车次信息的文章就介绍到这儿，希望我们推荐的文章对编程师们有所帮助！


http://www.chinasem.cn/article/232723。

相关文章

使用Python删除Excel中的行列和单元格示例详解

使用Python删除Excel中的行列和单元格示例详解

《使用Python删除Excel中的行列和单元格示例详解》在处理Excel数据时,删除不需要的行、列或单元格是一项常见且必要的操作,本文将使用Python脚本实现对Excel表格的高效自动化处理,感兴... 目录开发环境准备使用 python 删除 Excphpel 表格中的行删除特定行删除空白行删除含指定
阅读更多...
MySQL 多列 IN 查询之语法、性能与实战技巧(最新整理)

MySQL 多列 IN 查询之语法、性能与实战技巧(最新整理)

《MySQL多列IN查询之语法、性能与实战技巧(最新整理)》本文详解MySQL多列IN查询,对比传统OR写法,强调其简洁高效,适合批量匹配复合键,通过联合索引、分批次优化提升性能,兼容多种数据库... 目录一、基础语法：多列 IN 的两种写法1. 直接值列表2. 子查询二、对比传统 OR 的写法三、性能分析
阅读更多...
Python通用唯一标识符模块uuid使用案例详解

Python通用唯一标识符模块uuid使用案例详解

《Python通用唯一标识符模块uuid使用案例详解》Pythonuuid模块用于生成128位全局唯一标识符,支持UUID1-5版本,适用于分布式系统、数据库主键等场景,需注意隐私、碰撞概率及存储优... 目录简介核心功能1. UUID版本2. UUID属性3. 命名空间使用场景1. 生成唯一标识符2. 数
阅读更多...
Java中读取YAML文件配置信息常见问题及解决方法

Java中读取YAML文件配置信息常见问题及解决方法

《Java中读取YAML文件配置信息常见问题及解决方法》：本文主要介绍Java中读取YAML文件配置信息常见问题及解决方法,本文给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要... 目录1 使用Spring Boot的@ConfigurationProperties2. 使用@Valu
阅读更多...
Python办公自动化实战之打造智能邮件发送工具

Python办公自动化实战之打造智能邮件发送工具

《Python办公自动化实战之打造智能邮件发送工具》在数字化办公场景中,邮件自动化是提升工作效率的关键技能,本文将演示如何使用Python的smtplib和email库构建一个支持图文混排,多附件,多... 目录前言一、基础配置：搭建邮件发送框架1.1 邮箱服务准备1.2 核心库导入1.3 基础发送函数二、
阅读更多...
Python包管理工具pip的升级指南

Python包管理工具pip的升级指南

《Python包管理工具pip的升级指南》本文全面探讨Python包管理工具pip的升级策略,从基础升级方法到高级技巧,涵盖不同操作系统环境下的最佳实践,我们将深入分析pip的工作原理,介绍多种升级方... 目录1. 背景介绍1.1 目的和范围1.2 预期读者1.3 文档结构概述1.4 术语表1.4.1 核
阅读更多...
基于Python实现一个图片拆分工具

基于Python实现一个图片拆分工具

《基于Python实现一个图片拆分工具》这篇文章主要为大家详细介绍了如何基于Python实现一个图片拆分工具,可以根据需要的行数和列数进行拆分,感兴趣的小伙伴可以跟随小编一起学习一下... 简单介绍先自己选择输入的图片，默认是输出到项目文件夹中，可以自己选择其他的文件夹，选择需要拆分的行数和列数，可以通过
阅读更多...
Python中反转字符串的常见方法小结

Python中反转字符串的常见方法小结

《Python中反转字符串的常见方法小结》在Python中,字符串对象没有内置的反转方法,然而,在实际开发中,我们经常会遇到需要反转字符串的场景,比如处理回文字符串、文本加密等,因此,掌握如何在Pyt... 目录python中反转字符串的方法技术背景实现步骤1. 使用切片2. 使用 reversed() 函
阅读更多...
Python中将嵌套列表扁平化的多种实现方法

Python中将嵌套列表扁平化的多种实现方法

《Python中将嵌套列表扁平化的多种实现方法》在Python编程中,我们常常会遇到需要将嵌套列表（即列表中包含列表）转换为一个一维的扁平列表的需求,本文将给大家介绍了多种实现这一目标的方法,需要的朋... 目录python中将嵌套列表扁平化的方法技术背景实现步骤1. 使用嵌套列表推导式2. 使用itert
阅读更多...
使用Docker构建Python Flask程序的详细教程

使用Docker构建Python Flask程序的详细教程

《使用Docker构建PythonFlask程序的详细教程》在当今的软件开发领域,容器化技术正变得越来越流行,而Docker无疑是其中的佼佼者,本文我们就来聊聊如何使用Docker构建一个简单的Py... 目录引言一、准备工作二、创建 Flask 应用程序三、创建 dockerfile四、构建 Docker
阅读更多...

Copyright China编程 23002807@qq.com

沪ICP备2023033072号-2