自学笔记2-爬虫分析中国人民银行货币政策报告2

本文主要是介绍自学笔记2-爬虫分析中国人民银行货币政策报告2,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

由于肺炎假期在家太无聊,开始学习模式。

今天终于实现了把央行货币政策执行报告全部爬下来。高兴之余写篇博客记录下。

需要安装的项目有selenium和pyautogui。

代码分3个步骤:

1. 配置selenium chrome

2. 在央行第一个页面把所有执行报告的链接拿下来

3. 进到一个个页面把PDF文件下下来

 

1. 配置selenium chrome

一般教程上说的PhantomJS已经停止更新了,所以要么用Firefox要么用chrome

    option = webdriver.ChromeOptions()#option.add_argument('--headless') # 开启无界面模式option.add_argument('log-level=3') #不显示一般的LOG信息prefs = {'profile.default_content_settings.popups': 0, 'download.default_directory': 'd:\\'}option.add_experimental_option('prefs', prefs)#配置默认的保存地址driver=webdriver.Chrome(executable_path=r'C:\mysniper\chromedriver',chrome_options=option)#新建一个浏览器页面driver.implicitly_wait(10)#默认等待加载完成页面,最长等10秒

上面的代码就最后两行是必须的,前面的配置没有也没关系。最后一句特别说一下,这个的意思是后面调用find_element_by***的时候要等待页面加载完成才执行,不然可能由于页面有JS,没加载完就不能完全显示。参数10的意思是最长等10秒。

2. 在央行第一个页面把所有执行报告的链接拿下来

    driver.get("http://www.pbc.gov.cn/zhengcehuobisi/125207/125227/125957/index.html")da=driver.find_elements_by_class_name("unline")reportHref=[]reportData=[]reportPDFlink=[]for item in da:itemHref=item.find_element_by_partial_link_text(u"执行报告").get_attribute("href")if itemHref=="http://www.pbc.gov.cn/zhengcehuobisi/125207/125227/125957/125985/2889622/index.html":continuereportHref.append(itemHref)itemData=item.find_element_by_class_name("hui12").get_attribute('textContent')reportData.append(itemData)

把下面画红线的链接一个个存起来,顺便把报告发布的时间也存起来。

3. 进到一个个页面把PDF文件下下来

    for i in range(0,len(reportHref)-1):driver.get(reportHref[i])driver.implicitly_wait(10)links=driver.find_elements_by_xpath("//a")for link in links:if link.get_attribute("href")!=None and link.get_attribute("href").find("pdf")>0:#print(link.get_attribute("href"))#print(link.get_attribute("textContent"))actions = ActionChains(driver)actions.context_click(link)actions.perform()pyautogui.typewrite(['down','down','down','down','enter','enter'])time.sleep(1)filename=reportData[i]+".pdf"pyautogui.write(filename, interval=0.25)pyautogui.press('enter')time.sleep(1)pyautogui.press('esc')time.sleep(15)

这里一个个打开前面保存的页面。把所有链接筛出来,其中不为空且带有PDF字样的链接就是我们要的文件地址。但是如果直接点击,默认的文件名不是我们想要的。因此需要用到pyautogui。

首先通过selenium里的动作链ActionChains建立一个左键点击的事件。后面就靠pyautogui了。

pyautogui.typewrite()函数可以模拟一系列注册的键盘事件,按下有键后点4次下就选中了“链接另存为”。

pyautogui.write(filename, interval=0.25)用于模拟键盘输入,而且还可以模拟间隔时间。其实就是在另存为的框里输入文件名。

pyautogui.press('enter')顾名思义按回车健。这样就保存了。因为我的浏览器会再弹出一次保存画面,所以多了一次esc。

然后等15秒保证下载完成再进入下一个页面。

这篇关于自学笔记2-爬虫分析中国人民银行货币政策报告2的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/865050

相关文章

Python爬虫selenium验证之中文识别点选+图片验证码案例(最新推荐)

《Python爬虫selenium验证之中文识别点选+图片验证码案例(最新推荐)》本文介绍了如何使用Python和Selenium结合ddddocr库实现图片验证码的识别和点击功能,感兴趣的朋友一起看... 目录1.获取图片2.目标识别3.背景坐标识别3.1 ddddocr3.2 打码平台4.坐标点击5.图

Springboot中分析SQL性能的两种方式详解

《Springboot中分析SQL性能的两种方式详解》文章介绍了SQL性能分析的两种方式:MyBatis-Plus性能分析插件和p6spy框架,MyBatis-Plus插件配置简单,适用于开发和测试环... 目录SQL性能分析的两种方式:功能介绍实现方式:实现步骤:SQL性能分析的两种方式:功能介绍记录

最长公共子序列问题的深度分析与Java实现方式

《最长公共子序列问题的深度分析与Java实现方式》本文详细介绍了最长公共子序列(LCS)问题,包括其概念、暴力解法、动态规划解法,并提供了Java代码实现,暴力解法虽然简单,但在大数据处理中效率较低,... 目录最长公共子序列问题概述问题理解与示例分析暴力解法思路与示例代码动态规划解法DP 表的构建与意义动

Java使用POI-TL和JFreeChart动态生成Word报告

《Java使用POI-TL和JFreeChart动态生成Word报告》本文介绍了使用POI-TL和JFreeChart生成包含动态数据和图表的Word报告的方法,并分享了实际开发中的踩坑经验,通过代码... 目录前言一、需求背景二、方案分析三、 POI-TL + JFreeChart 实现3.1 Maven

C#使用DeepSeek API实现自然语言处理,文本分类和情感分析

《C#使用DeepSeekAPI实现自然语言处理,文本分类和情感分析》在C#中使用DeepSeekAPI可以实现多种功能,例如自然语言处理、文本分类、情感分析等,本文主要为大家介绍了具体实现步骤,... 目录准备工作文本生成文本分类问答系统代码生成翻译功能文本摘要文本校对图像描述生成总结在C#中使用Deep

Redis主从/哨兵机制原理分析

《Redis主从/哨兵机制原理分析》本文介绍了Redis的主从复制和哨兵机制,主从复制实现了数据的热备份和负载均衡,而哨兵机制可以监控Redis集群,实现自动故障转移,哨兵机制通过监控、下线、选举和故... 目录一、主从复制1.1 什么是主从复制1.2 主从复制的作用1.3 主从复制原理1.3.1 全量复制

Redis主从复制的原理分析

《Redis主从复制的原理分析》Redis主从复制通过将数据镜像到多个从节点,实现高可用性和扩展性,主从复制包括初次全量同步和增量同步两个阶段,为优化复制性能,可以采用AOF持久化、调整复制超时时间、... 目录Redis主从复制的原理主从复制概述配置主从复制数据同步过程复制一致性与延迟故障转移机制监控与维

Redis连接失败:客户端IP不在白名单中的问题分析与解决方案

《Redis连接失败:客户端IP不在白名单中的问题分析与解决方案》在现代分布式系统中,Redis作为一种高性能的内存数据库,被广泛应用于缓存、消息队列、会话存储等场景,然而,在实际使用过程中,我们可能... 目录一、问题背景二、错误分析1. 错误信息解读2. 根本原因三、解决方案1. 将客户端IP添加到Re

Redis主从复制实现原理分析

《Redis主从复制实现原理分析》Redis主从复制通过Sync和CommandPropagate阶段实现数据同步,2.8版本后引入Psync指令,根据复制偏移量进行全量或部分同步,优化了数据传输效率... 目录Redis主DodMIK从复制实现原理实现原理Psync: 2.8版本后总结Redis主从复制实

锐捷和腾达哪个好? 两个品牌路由器对比分析

《锐捷和腾达哪个好?两个品牌路由器对比分析》在选择路由器时,Tenda和锐捷都是备受关注的品牌,各自有独特的产品特点和市场定位,选择哪个品牌的路由器更合适,实际上取决于你的具体需求和使用场景,我们从... 在选购路由器时,锐捷和腾达都是市场上备受关注的品牌,但它们的定位和特点却有所不同。锐捷更偏向企业级和专