pyppeteer爬虫保存图片,python爬虫,完美

2024-08-27 23:04

本文主要是介绍pyppeteer爬虫保存图片,python爬虫,完美,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

#pip install pyppeteer,使用 Pyppeteer(异步方案)
import asyncio
import os
import randomimport requests
from pyppeteer import launch
async def main():browser = await launch()page = await browser.newPage()await page.goto('https://pic.sogou.com/pics?st=255&channel=vr&scene=pic_result&query=%E5%9B%BE%E7%89%87&rawQuery=%E5%9B%BE%E7%89%87&vrExpId=&vrAdParams=&hitKey=')# 获得标签对象img = await page.querySelectorAll("img")# 提取每个 img 标签的属性信息img_info = []for img_element in img:try:# 获得地址src = await img_element.getProperty('src')src_value = await src.jsonValue()# 获得图片名称alt = await img_element.getProperty('alt')alt_value = await alt.jsonValue() if alt else None# 获得图片格式if src_value:# 从 URL 中提取文件扩展名作为格式file_extension = src_value.split('.')[-1].lower()img_info.append({'src': src_value, '名称': alt_value, '格式': file_extension})# 判断url是否可以访问response = requests.get(src_value, timeout=5)  # 使用 requests 库进行判断,设置超时时间为 5 秒if response.status_code == 200:# 保存图片img_name = os.path.basename(src_value)print(f"可以访问:{src_value},保存图片:{img_name}")# 获得随机数random_number = random.randint(1000000, 9000000)# 这个保存如果没获得名称,格式失败,所以使用随机数+png# with open(f'dade/{img_name}', 'wb') as f:with open(f'dade/{random_number}.png', 'wb') as f:# 下载f.write(response.content)else:print(f"不可以访问:{src_value}")except Exception as e:print(f"出错啦: {e}")# 打印print(img_info)await browser.close()
asyncio.get_event_loop().run_until_complete(main())

这篇关于pyppeteer爬虫保存图片,python爬虫,完美的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1113028

相关文章

Python脚本实现自动删除C盘临时文件夹

《Python脚本实现自动删除C盘临时文件夹》在日常使用电脑的过程中,临时文件夹往往会积累大量的无用数据,占用宝贵的磁盘空间,下面我们就来看看Python如何通过脚本实现自动删除C盘临时文件夹吧... 目录一、准备工作二、python脚本编写三、脚本解析四、运行脚本五、案例演示六、注意事项七、总结在日常使用

Python将大量遥感数据的值缩放指定倍数的方法(推荐)

《Python将大量遥感数据的值缩放指定倍数的方法(推荐)》本文介绍基于Python中的gdal模块,批量读取大量多波段遥感影像文件,分别对各波段数据加以数值处理,并将所得处理后数据保存为新的遥感影像... 本文介绍基于python中的gdal模块,批量读取大量多波段遥感影像文件,分别对各波段数据加以数值处

python管理工具之conda安装部署及使用详解

《python管理工具之conda安装部署及使用详解》这篇文章详细介绍了如何安装和使用conda来管理Python环境,它涵盖了从安装部署、镜像源配置到具体的conda使用方法,包括创建、激活、安装包... 目录pytpshheraerUhon管理工具:conda部署+使用一、安装部署1、 下载2、 安装3

Python进阶之Excel基本操作介绍

《Python进阶之Excel基本操作介绍》在现实中,很多工作都需要与数据打交道,Excel作为常用的数据处理工具,一直备受人们的青睐,本文主要为大家介绍了一些Python中Excel的基本操作,希望... 目录概述写入使用 xlwt使用 XlsxWriter读取修改概述在现实中,很多工作都需要与数据打交

使用Python实现在Word中添加或删除超链接

《使用Python实现在Word中添加或删除超链接》在Word文档中,超链接是一种将文本或图像连接到其他文档、网页或同一文档中不同部分的功能,本文将为大家介绍一下Python如何实现在Word中添加或... 在Word文档中,超链接是一种将文本或图像连接到其他文档、网页或同一文档中不同部分的功能。通过添加超

Python MySQL如何通过Binlog获取变更记录恢复数据

《PythonMySQL如何通过Binlog获取变更记录恢复数据》本文介绍了如何使用Python和pymysqlreplication库通过MySQL的二进制日志(Binlog)获取数据库的变更记录... 目录python mysql通过Binlog获取变更记录恢复数据1.安装pymysqlreplicat

利用Python编写一个简单的聊天机器人

《利用Python编写一个简单的聊天机器人》这篇文章主要为大家详细介绍了如何利用Python编写一个简单的聊天机器人,文中的示例代码讲解详细,感兴趣的小伙伴可以跟随小编一起学习一下... 使用 python 编写一个简单的聊天机器人可以从最基础的逻辑开始,然后逐步加入更复杂的功能。这里我们将先实现一个简单的

基于Python开发电脑定时关机工具

《基于Python开发电脑定时关机工具》这篇文章主要为大家详细介绍了如何基于Python开发一个电脑定时关机工具,文中的示例代码讲解详细,感兴趣的小伙伴可以跟随小编一起学习一下... 目录1. 简介2. 运行效果3. 相关源码1. 简介这个程序就像一个“忠实的管家”,帮你按时关掉电脑,而且全程不需要你多做

Python实现高效地读写大型文件

《Python实现高效地读写大型文件》Python如何读写的是大型文件,有没有什么方法来提高效率呢,这篇文章就来和大家聊聊如何在Python中高效地读写大型文件,需要的可以了解下... 目录一、逐行读取大型文件二、分块读取大型文件三、使用 mmap 模块进行内存映射文件操作(适用于大文件)四、使用 pand

python实现pdf转word和excel的示例代码

《python实现pdf转word和excel的示例代码》本文主要介绍了python实现pdf转word和excel的示例代码,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价... 目录一、引言二、python编程1,PDF转Word2,PDF转Excel三、前端页面效果展示总结一