Python爬虫学习笔记-第三课(网络请求模块下)

2024-05-02 06:32
文章标签 python 模块 学习 笔记 请求 网络 爬虫 第三课

本文主要是介绍Python爬虫学习笔记-第三课(网络请求模块下)，希望对大家解决编程问题提供一定的参考价值，需要的开发者们随着小编来一起学习吧！

网络请求模块下

  • 1. urllib-get案例
    • 1.1 代码需求：爬取贴吧数据
    • 1.2 代码思路
    • 1.3 代码实现
  • 2. urllib-post案例
  • 3. requests模块简介
    • 3.1 get案例：
    • 3.2 post案例：

1. urllib-get案例

1.1 代码需求：爬取贴吧数据

以“天命奇御”贴吧为例，一般贴吧上有许多不同类型的数据，有文字、图片、音频、视频等。笔者在这介绍的是向贴吧的url发起请求，获取响应对象，用read()方法读取内容，暂时不再具体解析数据类型。

在这里插入图片描述

代码想要实现的功能：

  1. 输入贴吧的主题（例如：天命奇御）
  2. 输入想要爬取的起始页和终止页（例如：1-3）
  3. 把每一页的数据保存到本地（例如：1.html）

1.2 代码思路

分析贴吧url的地址：

https://tieba.baidu.com/f?kw=%E5%A4%A9%E5%91%BD%E5%A5%87%E5%BE%A1&pn=0 第一页
https://tieba.baidu.com/f?kw=%E5%A4%A9%E5%91%BD%E5%A5%87%E5%BE%A1&pn=50 第二页
https://tieba.baidu.com/f?kw=%E5%A4%A9%E5%91%BD%E5%A5%87%E5%BE%A1&pn=100 第三页

从上述地址看，容易得出：pn = (page - 1) * 50
url地址可看成三部分组成：

  • 第一部分：https://tieba.baidu.com/f?，贴吧固定的服务器url
  • 第二部分：kw=%E5%A4%A9%E5%91%BD%E5%A5%87%E5%BE%A1，其中kw=后面的内容与想要搜索的贴吧有关，如果搜索中文贴吧需进行编码处理
  • 第三部分：&pn=0 与页数有关的参数。

解析完url地址后，接下来的步骤就是发起请求，获取响应对象，用read()方法读取内容，最后保存到本地。

1.3 代码实现

基础版：

# 导入需要的模块
import urllib.request
import urllib.parse
# 让用户输入想爬取的贴吧名字以及起始页、终止页
tieba_name = input('请输入贴吧的名称:')
begin_page = int(input('请输入起始页:'))
end_page = int(input('请输入终止页:'))
request_headers = {'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, ''like Gecko) Chrome/86.0.4240.198 Safari/537.36 '
}
base_url = 'https://tieba.baidu.com/f?'
# 对中文名字进行处理
kw = {'kw': tieba_name}
name_url = urllib.parse.urlencode(kw)
# for循环控制爬取页面的流程
for i in range(begin_page, end_page+1):pn = (i-1)*50target_url = base_url + name_url + '&pn=' + str(pn)# print(target_url)# 发起请求req_obj = urllib.request.Request(target_url, headers=request_headers)res_obj = urllib.request.urlopen(req_obj)html = res_obj.read().decode('utf-8')# 保存数据filename = '第' + str(i) + '页.html'with open(filename, 'w', encoding='utf-8') as file_obj:print(f'正在爬取第{i}页数据...')file_obj.write(html)

运行结果：

在这里插入图片描述

函数进阶版：
编写思路：

  1. 创建读取页面函数，传递想爬取url参数；
  2. 创建写入数据函数，传递文件名以及读取的html；
  3. 创建主函数，获取用户输入，管理爬取数据的流程。
# 导入需要的模块
import urllib.request
import urllib.parse# 读取页面函数
def ReadPage(target_url):request_headers = {'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, ''like Gecko) Chrome/86.0.4240.198 Safari/537.36 '}# 发起请求req_obj = urllib.request.Request(target_url, headers=request_headers)res_obj = urllib.request.urlopen(req_obj)html = res_obj.read().decode('utf-8')return html# 写入数据函数
def WritePage(filename, html):with open(filename, 'w', encoding='utf-8') as file_obj:file_obj.write(html)def main():# 让用户输入想爬取的贴吧名字以及起始页、终止页tieba_name = input('请输入贴吧的名称:')begin_page = int(input('请输入起始页:'))end_page = int(input('请输入终止页:'))base_url = 'https://tieba.baidu.com/f?'# 对中文名字进行处理kw = {'kw': tieba_name}name_url = urllib.parse.urlencode(kw)# for循环控制爬取页面的流程for i in range(begin_page, end_page + 1):pn = (i - 1) * 50target_url = base_url + name_url + '&pn=' + str(pn)# 调用读取函数html = ReadPage(target_url)filename = '第' + str(i) + '页.html'print(f'正在爬取第{i}页数据...')# 调用写入函数WritePage(filename, html)if __name__ == '__main__':main()

运行结果：
在这里插入图片描述

面向对象进阶版：
编写思路：创建爬虫类，模拟上述的函数版本，将编写的函数写成类的实例方法。通过创建类对象，调用相关实例方法执行相应的程序。

# 导入需要的模块
import urllib.request
import urllib.parse
# 创建爬虫类
class BaiduSpider(object):def __init__(self):self.request_headers = {'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, ''like Gecko) Chrome/86.0.4240.198 Safari/537.36 '}self.base_url = 'https://tieba.baidu.com/f?'passdef ReadPage(self, target_url):# 发起请求req_obj = urllib.request.Request(target_url, headers=self.request_headers)res_obj = urllib.request.urlopen(req_obj)html = res_obj.read().decode('utf-8')return htmldef WritePage(self, filename, html):with open(filename, 'w', encoding='utf-8') as file_obj:file_obj.write(html)def main(self):# 让用户输入想爬取的贴吧名字以及起始页、终止页tieba_name = input('请输入贴吧的名称:')begin_page = int(input('请输入起始页:'))end_page = int(input('请输入终止页:'))# 对中文名字进行处理kw = {'kw': tieba_name}name_url = urllib.parse.urlencode(kw)# for循环控制爬取页面的流程for i in range(begin_page, end_page + 1):pn = (i - 1) * 50target_url = self.base_url + name_url + '&pn=' + str(pn)# 调用读取函数html = self.ReadPage(target_url)filename = '第' + str(i) + '页.html'print(f'正在爬取第{i}页数据...')# 调用写入函数self.WritePage(filename, html)if __name__ == '__main__':spider = BaiduSpider()spider.main()

运行结果：
在这里插入图片描述

2. urllib-post案例

以有道翻译为例：
在这里插入图片描述

  1. 确定真正请求的url：

http://fanyi.youdao.com/translate_o?smartresult=dict&smartresult=rule

  1. 发起请求的同时，需要携带 form data 里面的数据：

在这里插入图片描述

  1. 解析数据，得到翻译的结果。
# 导入需要的模块
import urllib.request
import urllib.parse
# 输入待翻译的内容
content = input('请输入您要翻译的内容:')
# 获取form data的内容
form_data = {'i': content,'from': 'AUTO','to': 'AUTO','smartresult': 'dict','client': 'fanyideskweb','salt': '16077413060659','sign': '5b46e99c245caaec4b621c41038a78f2','lts': '1607741306065','bv': 'f7d97c24a497388db1420108e6c3537b','doctype': 'json','version': '2.1','keyfrom': 'fanyi.web','action': 'FY_BY_REALTlME'
}
# 处理中文字符
form_data = urllib.parse.urlencode(form_data)
# 将str转换为bytes
form_data = bytes(form_data, 'utf-8')
target_url = 'http://fanyi.youdao.com/translate_o?smartresult=dict&smartresult=rule'
request_headers = {'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, ''like Gecko) Chrome/86.0.4240.198 Safari/537.36 '
}
req_obj = urllib.request.Request(target_url, data=form_data, headers=request_headers)
res_obj = urllib.request.urlopen(req_obj)
html = res_obj.read().decode('utf-8')
print(html)

容易出错的地方：

form_data = urllib.parse.urlencode(form_data)
req_obj = urllib.request.Request(target_url, data=form_data, headers=request_headers)
# TypeError: POST data should be bytes, an iterable of bytes, or a file object. It cannot be of type str.

传递到关键字data的参数 form_data 不能为str类型，所以传参之前需先将其转换为bytes类型，另外不要忘记指定编码格式utf-8。

运行结果：
在这里插入图片描述

出现errorCode的原因在于请求的url地址需要进一步处理，目前提供的解决方案是去掉translate后面的_o，若要进一步追究原因，需要学习JS逆向相关的知识，此处暂时不展开。

修改上述代码：

target_url = 'http://fanyi.youdao.com/translate?smartresult=dict&smartresult=rule'
# 顺便打印html的类型,修改最后一句print
print(html, type(html))

运行代码：
在这里插入图片描述

观察结果，html实际上是Json类型的字符串，需将其转化为python中容易分析的字典类型。

接下来，在上述代码的基础上，添加部分代码，解析出我们想要的结果：

import json
# 将json字符串转换为字典
r_dict = json.loads(html)
print(r_dict, type(r_dict))
# 逐步解析，直到获取想要的结果
result = r_dict['translateResult']
result = result[0][0]
result = result['tgt']
print('翻译结果：', result)

再次运行代码：
在这里插入图片描述

3. requests模块简介

3.1 get案例：

import requests
request_headers = {'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, ''like Gecko) Chrome/86.0.4240.198 Safari/537.36 '}
url = 'https://qq.yh31.com/zjbq/2920180.html'
# 请求时添加用户代理
res_obj = requests.get(url, headers=request_headers)
print(res_obj)

运行结果：
在这里插入图片描述

返回状态码200表示请求成功。

关于text和content属性：

  • content：字节流数据，从网站上直接获取的数据，没有做任何处理。
  • text：字符串数据，requests模块将content解码后得到的字符串，数据含有乱码是因为模块推测的解码方式与期望的不符。
# 对content使用decode()方法，手动选择utf-8编码格式
print(res_obj.content.decode('utf-8'))

运行结果：
结果

从结果看，乱码已经消除，且原本的字节流数据已经变成字符串类型。

另外，还可以看请求的状态码和url地址：

# 查看状态码和请求的url
print(res_obj.status_code)
print(res_obj.url)

运行结果：
在这里插入图片描述

3.2 post案例：

依旧以有道词典为例：

import requests
# 输入待翻译的内容
content = input('请输入您要翻译的内容:')
# 获取form data的内容
form_data = {'i': content,'from': 'AUTO','to': 'AUTO','smartresult': 'dict','client': 'fanyideskweb','salt': '16077413060659','sign': '5b46e99c245caaec4b621c41038a78f2','lts': '1607741306065','bv': 'f7d97c24a497388db1420108e6c3537b','doctype': 'json','version': '2.1','keyfrom': 'fanyi.web','action': 'FY_BY_REALTlME'
}
# 编辑headers，给出用户代理
request_headers = {'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, ''like Gecko) Chrome/86.0.4240.198 Safari/537.36 '}
# 请求url
target_url = 'http://fanyi.youdao.com/translate?smartresult=dict&smartresult=rule'
# 发起请求
res_obj = requests.post(target_url, data=form_data, headers=request_headers)
import json
r_dict = json.loads(res_obj.text)
result = r_dict['translateResult']
result = result[0][0]
result = result['tgt']
print('翻译结果：', result)

运行结果：
在这里插入图片描述

从代码上看，使用requests模块相比urllib要更简洁，res_obj.text可以直接得到json字符串。

为什么要学习源码：

  • 了解底层实现原理；
  • 了解优秀的框架/代码是如何编写出来；
  • 练习英文；
  • 提供思路，解决方案；
  • 程序员最基本的素养，企业开发的要求。

这篇关于Python爬虫学习笔记-第三课(网络请求模块下)的文章就介绍到这儿，希望我们推荐的文章对编程师们有所帮助！


http://www.chinasem.cn/article/953590。

相关文章

python管理工具之conda安装部署及使用详解

python管理工具之conda安装部署及使用详解

《python管理工具之conda安装部署及使用详解》这篇文章详细介绍了如何安装和使用conda来管理Python环境,它涵盖了从安装部署、镜像源配置到具体的conda使用方法,包括创建、激活、安装包... 目录pytpshheraerUhon管理工具：conda部署+使用一、安装部署1、 下载2、 安装3
阅读更多...
Python进阶之Excel基本操作介绍

Python进阶之Excel基本操作介绍

《Python进阶之Excel基本操作介绍》在现实中,很多工作都需要与数据打交道,Excel作为常用的数据处理工具,一直备受人们的青睐,本文主要为大家介绍了一些Python中Excel的基本操作,希望... 目录概述写入使用 xlwt使用 XlsxWriter读取修改概述在现实中，很多工作都需要与数据打交
阅读更多...
使用Python实现在Word中添加或删除超链接

使用Python实现在Word中添加或删除超链接

《使用Python实现在Word中添加或删除超链接》在Word文档中,超链接是一种将文本或图像连接到其他文档、网页或同一文档中不同部分的功能,本文将为大家介绍一下Python如何实现在Word中添加或... 在Word文档中，超链接是一种将文本或图像连接到其他文档、网页或同一文档中不同部分的功能。通过添加超
阅读更多...
C#使用HttpClient进行Post请求出现超时问题的解决及优化

C#使用HttpClient进行Post请求出现超时问题的解决及优化

《C#使用HttpClient进行Post请求出现超时问题的解决及优化》最近我的控制台程序发现有时候总是出现请求超时等问题,通常好几分钟最多只有3-4个请求,在使用apipost发现并发10个5分钟也... 目录优化结论单例HttpClient连接池耗尽和并发并发异步最终优化后优化结论我直接上优化结论吧，
阅读更多...
Python MySQL如何通过Binlog获取变更记录恢复数据

Python MySQL如何通过Binlog获取变更记录恢复数据

《PythonMySQL如何通过Binlog获取变更记录恢复数据》本文介绍了如何使用Python和pymysqlreplication库通过MySQL的二进制日志（Binlog）获取数据库的变更记录... 目录python mysql通过Binlog获取变更记录恢复数据1.安装pymysqlreplicat
阅读更多...
利用Python编写一个简单的聊天机器人

利用Python编写一个简单的聊天机器人

《利用Python编写一个简单的聊天机器人》这篇文章主要为大家详细介绍了如何利用Python编写一个简单的聊天机器人,文中的示例代码讲解详细,感兴趣的小伙伴可以跟随小编一起学习一下... 使用 python 编写一个简单的聊天机器人可以从最基础的逻辑开始，然后逐步加入更复杂的功能。这里我们将先实现一个简单的
阅读更多...
基于Python开发电脑定时关机工具

基于Python开发电脑定时关机工具

《基于Python开发电脑定时关机工具》这篇文章主要为大家详细介绍了如何基于Python开发一个电脑定时关机工具,文中的示例代码讲解详细,感兴趣的小伙伴可以跟随小编一起学习一下... 目录1. 简介2. 运行效果3. 相关源码1. 简介这个程序就像一个“忠实的管家”，帮你按时关掉电脑，而且全程不需要你多做
阅读更多...
Python实现高效地读写大型文件

Python实现高效地读写大型文件

《Python实现高效地读写大型文件》Python如何读写的是大型文件,有没有什么方法来提高效率呢,这篇文章就来和大家聊聊如何在Python中高效地读写大型文件,需要的可以了解下... 目录一、逐行读取大型文件二、分块读取大型文件三、使用 mmap 模块进行内存映射文件操作（适用于大文件）四、使用 pand
阅读更多...
python实现pdf转word和excel的示例代码

python实现pdf转word和excel的示例代码

《python实现pdf转word和excel的示例代码》本文主要介绍了python实现pdf转word和excel的示例代码,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价... 目录一、引言二、python编程1，PDF转Word2，PDF转Excel三、前端页面效果展示总结一
阅读更多...
Python xmltodict实现简化XML数据处理

Python xmltodict实现简化XML数据处理

《Pythonxmltodict实现简化XML数据处理》Python社区为提供了xmltodict库,它专为简化XML与Python数据结构的转换而设计,本文主要来为大家介绍一下如何使用xmltod... 目录一、引言二、XMLtodict介绍设计理念适用场景三、功能参数与属性1、parse函数2、unpa
阅读更多...

Copyright China编程 23002807@qq.com

沪ICP备2023033072号-2