python selenium+phontomjs的详细用法及简单案例

2024-03-10 17:48

本文主要是介绍python selenium+phontomjs的详细用法及简单案例,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

运行环境python2.7

相关模块需要自行下载安装

将phontomjs插件放入环境变量所在的路径


(提示:1.因为phontomjs是无界面浏览器,所以可以通过截图来直观展示  2.selenium类似于按键精灵,代替手动点击网页)


模拟访问百度并截图

#coding:utf8
# 导入包
from selenium import webdriver# 使用插件phontomjs
driver=webdriver.PhantomJS()#访问百度
driver.get("http://www.baidu.com/")#截图
driver.save_screenshot("baidu.png")




模拟浏览器的前进和后退


#coding:utf8
from selenium import webdriver
obj=webdriver.PhantomJS()
try:obj.get('http://www.baidu.com') #访问百度obj.save_screenshot('13.png')obj.get('http://www.sina.com.cn') #访问新浪obj.save_screenshot('14.png')obj.back()          #返回百度obj.save_screenshot('15.png')obj.forward()       #前进到新浪obj.save_screenshot('16.png')
except Exception as e:print e

设置浏览器的宽高

#coding:utf8
from selenium import webdriver
obj=webdriver.PhantomJS()
obj.set_page_load_timeout(5)
obj.set_window_size('360','360') #设置浏览器宽高为480,800
try:obj.get("http://www.baidu.com")obj.save_screenshot('12.png') #截图
except Exception as e:print e

对页面对话框等做一些操作

#coding:utf-8
from selenium import webdriver
obj=webdriver.PhantomJS()
obj.set_page_load_timeout(50)
try:obj.get('http://www.baidu.com')print obj.find_element_by_id("cp").text #获取元素的文本信息obj.find_element_by_id('kw').clear()  #清除输入框内容obj.find_element_by_id('kw').send_keys('hello')  #在输入框内输入helloobj.find_element_by_id('su').click()    #用于点击按钮# obj.find_element_by_id('su').submit()   #用于提交表单内容obj.save_screenshot('17.png')
except Exception as e:print e

截取全屏

#coding:utf8
from selenium import webdriver
obj=webdriver.PhantomJS()
obj.set_page_load_timeout(5)#设置全屏
obj.maximize_window()try:obj.get("http://www.baidu.com")obj.save_screenshot('11.png')
except Exception as e:print e

定位节点和标签

#coding:utf8
from selenium import webdriverobj = webdriver.PhantomJS()
obj.set_page_load_timeout(5)
try:obj.get('http://www.baidu.com')obj.find_element_by_id('kw')  # 通过ID定位obj.find_element_by_class_name('s_ipt')  # 通过class属性定位obj.find_element_by_name('wd')  # 通过标签name属性定位obj.find_element_by_tag_name('input')  # 通过标签属性定位obj.find_element_by_css_selector('#kw')  # 通过css方式定位obj.find_element_by_xpath("//input[@id='kw']")  # 通过xpath方式定位obj.find_element_by_link_text("贴吧")  # 通过xpath方式定位print obj.find_element_by_id('kw').tag_name  # 获取标签的类型
except Exception as e:print e

添加代理和报头

#coding:utf8
from selenium import webdriver
from random import choiceuser_agent=["Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/62.0.3202.89 Safari/537.36""Mozilla/5.0 (Windows NT 10.0; Win64; x64; rv:57.0) Gecko/20100101 Firefox/57.0""Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/58.0.3029.110 Safari/537.36 Edge/16.16299""Mozilla/5.0 (Windows; U; Windows NT 6.1; en-us) AppleWebKit/534.50 (KHTML, like Gecko) Version/5.1 Safari/534.50"
]# 引入配置对象DesiredCapabilities
from selenium.webdriver.common.desired_capabilities import DesiredCapabilities
dcap = dict(DesiredCapabilities.PHANTOMJS)
#从USER_AGENTS列表中随机选一个浏览器头,伪装浏览器
dcap["phantomjs.page.settings.userAgent"] = (choice(user_agent))
# 不载入图片,爬页面速度会快很多
dcap["phantomjs.page.settings.loadImages"] = False
# 设置代理
service_args = ['--proxy=61.135.217.7:80','--proxy-type=socks5']
#打开带配置信息的phantomJS浏览器
driver = webdriver.PhantomJS( desired_capabilities=dcap,service_args=service_args)
# 隐式等待5秒,可以自己调节
driver.implicitly_wait(5)
# 设置10秒页面超时返回,类似于requests.get()的timeout选项,driver.get()没有timeout选项
# 以前遇到过driver.get(url)一直不返回,但也不报错的问题,这时程序会卡住,设置超时选项能解决这个问题。
driver.set_page_load_timeout(10)
# 设置10秒脚本超时时间
driver.set_script_timeout(10)driver.get('http://ip38.com/')
driver.save_screenshot("5.png")



键盘事件

#coding:utf8
from selenium.webdriver.common.keys import Keys
from selenium import webdriver
obj=webdriver.PhantomJS()
obj.set_page_load_timeout(10)
try:obj.get('http://www.baidu.com')obj.find_element_by_id('kw').send_keys(Keys.TAB)obj.find_element_by_id('kw').send_keys('hello')obj.find_element_by_id('kw').send_keys(Keys.CONTROL,'a')   #ctrl + a 全选输入框内容obj.find_element_by_id('kw').send_keys(Keys.CONTROL,'x')   #ctrl + x 剪切输入框内容obj.find_element_by_id('kw').send_keys(u'美女')obj.find_element_by_id('su').send_keys(Keys.ENTER)obj.save_screenshot('18.png')except Exception as e:print e

添加代理ip
#coding:utf8
from selenium import webdriverbrowser=webdriver.PhantomJS()
# browser.get('http://ip38.com/')
# browser.save_screenshot("3.png")  # 截图保存# 利用DesiredCapabilities(代理设置)参数值,重新打开一个sessionId,我看意思就相当于浏览器清空缓存后,加上代理重新访问一次url
proxy=webdriver.Proxy()
proxy.http_proxy='112.74.32.237:6666'
# 将代理设置添加到webdriver.DesiredCapabilities.PHANTOMJS中
proxy.add_to_capabilities(webdriver.DesiredCapabilities.PHANTOMJS)
browser.start_session(webdriver.DesiredCapabilities.PHANTOMJS)
browser.get('http://ip38.com/')
browser.save_screenshot("2.png")# 还原为系统代理
# proxy=webdriver.Proxy()
# # proxy.proxy_type=ProxyType.DIRECT
# proxy.add_to_capabilities(webdriver.DesiredCapabilities.PHANTOMJS)
# browser.start_session(webdriver.DesiredCapabilities.PHANTOMJS)
# browser.get('http://ip38.com/')


这篇关于python selenium+phontomjs的详细用法及简单案例的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/795014

相关文章

线上Java OOM问题定位与解决方案超详细解析

《线上JavaOOM问题定位与解决方案超详细解析》OOM是JVM抛出的错误,表示内存分配失败,:本文主要介绍线上JavaOOM问题定位与解决方案的相关资料,文中通过代码介绍的非常详细,需要的朋... 目录一、OOM问题核心认知1.1 OOM定义与技术定位1.2 OOM常见类型及技术特征二、OOM问题定位工具

Python的Darts库实现时间序列预测

《Python的Darts库实现时间序列预测》Darts一个集统计、机器学习与深度学习模型于一体的Python时间序列预测库,本文主要介绍了Python的Darts库实现时间序列预测,感兴趣的可以了解... 目录目录一、什么是 Darts?二、安装与基本配置安装 Darts导入基础模块三、时间序列数据结构与

Python正则表达式匹配和替换的操作指南

《Python正则表达式匹配和替换的操作指南》正则表达式是处理文本的强大工具,Python通过re模块提供了完整的正则表达式功能,本文将通过代码示例详细介绍Python中的正则匹配和替换操作,需要的朋... 目录基础语法导入re模块基本元字符常用匹配方法1. re.match() - 从字符串开头匹配2.

基于 Cursor 开发 Spring Boot 项目详细攻略

《基于Cursor开发SpringBoot项目详细攻略》Cursor是集成GPT4、Claude3.5等LLM的VSCode类AI编程工具,支持SpringBoot项目开发全流程,涵盖环境配... 目录cursor是什么?基于 Cursor 开发 Spring Boot 项目完整指南1. 环境准备2. 创建

Python使用FastAPI实现大文件分片上传与断点续传功能

《Python使用FastAPI实现大文件分片上传与断点续传功能》大文件直传常遇到超时、网络抖动失败、失败后只能重传的问题,分片上传+断点续传可以把大文件拆成若干小块逐个上传,并在中断后从已完成分片继... 目录一、接口设计二、服务端实现(FastAPI)2.1 运行环境2.2 目录结构建议2.3 serv

通过Docker容器部署Python环境的全流程

《通过Docker容器部署Python环境的全流程》在现代化开发流程中,Docker因其轻量化、环境隔离和跨平台一致性的特性,已成为部署Python应用的标准工具,本文将详细演示如何通过Docker容... 目录引言一、docker与python的协同优势二、核心步骤详解三、进阶配置技巧四、生产环境最佳实践

Python一次性将指定版本所有包上传PyPI镜像解决方案

《Python一次性将指定版本所有包上传PyPI镜像解决方案》本文主要介绍了一个安全、完整、可离线部署的解决方案,用于一次性准备指定Python版本的所有包,然后导出到内网环境,感兴趣的小伙伴可以跟随... 目录为什么需要这个方案完整解决方案1. 项目目录结构2. 创建智能下载脚本3. 创建包清单生成脚本4

MyBatis分页查询实战案例完整流程

《MyBatis分页查询实战案例完整流程》MyBatis是一个强大的Java持久层框架,支持自定义SQL和高级映射,本案例以员工工资信息管理为例,详细讲解如何在IDEA中使用MyBatis结合Page... 目录1. MyBATis框架简介2. 分页查询原理与应用场景2.1 分页查询的基本原理2.1.1 分

Python实现Excel批量样式修改器(附完整代码)

《Python实现Excel批量样式修改器(附完整代码)》这篇文章主要为大家详细介绍了如何使用Python实现一个Excel批量样式修改器,文中的示例代码讲解详细,感兴趣的小伙伴可以跟随小编一起学习一... 目录前言功能特性核心功能界面特性系统要求安装说明使用指南基本操作流程高级功能技术实现核心技术栈关键函

python获取指定名字的程序的文件路径的两种方法

《python获取指定名字的程序的文件路径的两种方法》本文主要介绍了python获取指定名字的程序的文件路径的两种方法,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要... 最近在做项目,需要用到给定一个程序名字就可以自动获取到这个程序在Windows系统下的绝对路径,以下