基础篇(6) splash应用

2024-08-28 18:58
文章标签 基础 应用 splash

本文主要是介绍基础篇(6) splash应用，希望对大家解决编程问题提供一定的参考价值，需要的开发者们随着小编来一起学习吧！

     selenium是浏览器测试自动化工具，很容易完成鼠标点击，翻页等动作，确定是一次只能加载一个页面，无法异步渲染页面，也就限制了selenium爬虫的抓取效率。

    splash可以实现异步渲染页面，可以同时渲染几个页面。缺点是在页面点击，，模拟登陆方面没有selenium灵活。

1、docker安装splash

docker安装splash镜像
[ywadmin@wzy_woyun ~]$docker pull scrapinghub/splash
#后台运行
[ywadmin@wzy_woyun ~]$ docker run -d -p 8050:8050 --name=splash scrapinghub/splash
#root用户开放8050端口
[root@wzy_woyun ~]# firewall-cmd --permanent --add-port=8050/tcp
success
[root@wzy_woyun ~]# firewall-cmd --reload
Success

2、splash中的对象

2.1、args属性

该属性可以获取加载时配置的参数，比如url。

function main(splash, args)

      local url = args.url

end

上面的代码等同于下面

function main(splash, args)

      local url = splash.args.url

end

3.2、js_enabled属性

接着我们重新代用eval()方法执行JavaScript代码，运行时发现报错。这个属性是splash的JavaScript执行开关，可以将其配置为true或者false来控制是否执行JavaScript代码，默认为true。

function main(splash, args)splash:go("https://www.baidu.com")splash:js_enabled = false -- 禁止加载JavaScript代码splash:wait(0.5)local title = splash:evaljs("document.title") --获取网页标题return {html = splash:html(),title = title,   }
end

接着我们重新代用eval()方法执行JavaScript代码，运行时发现报错。

一般不用设置次属性，默认是开启的。

2.3、resource_timeout属性

属性可以设置加载的超时时间，单位是秒。如果设置为0或者nil(类似py中的None)，表示不进行超时检测。

function main(splash, args)splash.resource_timeout = 5splash:go("https://www.taobao.com")return splash:html()
end

2.4、images_enabled属性

    images_enabled属性表示可以设置图片是否加载，默认情况下是加载的，默认为true。如果设置图片不加载，那么加载网页速度会快。

function main(splash, args)splash.images_enabled = falsesplash:go("https://www.taobao.com")return {splash:html(),splash.png}
end

2.5、plugins_enabled属性

该属性表示是否开启浏览器插件。默认情况是开启，默认值为true。

function main(splash, args)splash.plugins_enabled = falsesplash:go("https://www.taobao.com")return {splash:html(),splash.png(),}
end

2.6、scroll_position属性

控制浏览页面上下或者左右滚动，这个属性是比较常用的属性。

function main(splash, args) splash:go("https://www.taobao.com")splash.scroll_postion={x=300,y=500}return {splash:html(),splash.png()}
end

其中x=300表示向右移动300像素，y=500表示向下移动500像素。

3、splash中的方法

3.1、go()方法

go方法用来请求某个链接，而且它可以模拟get和post请求，同时支持传入请求头、表单等数据。

function main(splash)splash:go{"http://www.sxt.cn", http_method="POST", body="name=17703181473"}splash:wait(2)return {html=splash:html()}
end

3.2、wait()方法

wait()方法控制页面的等待时间：

splash:wait{time, cancel_on_redirect=false, cancel_on_error=true}

function main(splash)splash:go("https://www.taobao.com")splash:wait(2)return {html=splash:html()}
end

3.3、jsfunc()方法

直接调用JavaScript定义的方法，但是所调用的方法需要用双中括号包围，这相当于实现了JavaScript方法到Lua脚本的转换。

function main(splash, args)splash:go("http://www.baidu.cn")local scroll_to = splash:jsfunc("window.scrollTo")scroll_to(0, 300)return {png = splash:png(),html = splash:html()}
end

3.4、evaljs()方法和runjs()方法

function main(splash, args)splash:go("https://www.baidu.com")splash:runjs("foo = function() { return 'sxt' }")local result = splash:evaljs("foo()")return result
end

3.5、send_text()

send_text()方法是填写文本的功能

function main(splash)splash:go("https://www.baidu.com/")input = splash:select("#kw")input:send_text('Splash')splash:wait(3)return splash:png()
end

3.6、url()方法

获取当前在访问的URL

function main(splash, args)splash:go("https://www.baidu.com")return splash:url()
end

3.7、get_cookies()方法

function main(splash, args)splash:go("http://www.baidu.com")splash:wait(2)local cookies = splash:get_cookies()return {cookies = cookies,html = splash:html(),png = splash:png(),har = splash:har(),}
end

 

3.7、  add_cookie()方法

添加cookies

【语法】

cookies = splash:add_cookie{name, value, path=nil, domain=nil, expires=nil, httpOnly=nil, secure=nil}

function main(splash)splash:add_cookie{"sessionid", "123456abcdef", "/", domain="http://bjsxt.com"}splash:go("http://bjsxt.com/")return splash:html()
end

3.8、clear_cookies()方法

function main(splash)splash:go("https://www.bjsxt.com/")splash:clear_cookies()return splash:get_cookies()
end

3.9、set_user_agent()方法

 

function main(splash, args)splash:set_user_agent("Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/74.0.3729.169 Safari/537.36")splash:go("http://httpbin.org/get")splash:wait(5)return {html = splash:html(),png = splash:png(),   }
end

注意set_user_agent()方法后面直接跟具体的值。

3.10、set_custom_headers()方法

set_custom_headers()方法是用来设置请求头信息。

function main(splash, args)splash:set_custom_headers({["User-Agent"]="Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/74.0.3729.169 Safari/537.36",["Host"]="www.httpbin.org"})splash:go("http://httpbin.org/get")splash:wait(5)return {html = splash:html(),png = splash:png(),   }
end

4、splash与python整合

Splash与Python结合其实就python调用splash的api。

4.1、render.html应用

import requests
from urllib.parse import quote
# 1、render.html
# 次接口用于获取JavaScript渲染的页面的HTML代码，接口地址就是Splash的运行地址加次接口名称，如http://192.168.2.10:8050/render.html
url = "http://192.168.2.10:8050/render.html?url=http://www.hnwznz.com&wait=2"
response = requests.get(url)
print(response.text)# 2、render.png 此接口可以获取网页截图
url_2= "http://192.168.2.10:8050/render.png?url=https://www.jd.com&wait=3&width=1000&height=700"
response_2 = requests.get(url_2)
with open("jd.png","wb") as f:f.write(response.content)

4.2、execute的调用

#3、execute 作为最强大的接口，用次接口便可实现与Lua脚本的对接。lua = """
function main(splash, args)return "hello"
end
"""
url_3 = "http://192.168.2.10:8050/execute?lua_source="+quote(lua)
response_3 = requests.get(url_3)
print(response_3.text)

【例子】

import requests
from fake_useragent import UserAgent
from urllib.parse import quote
url = "https://www.guazi.com/bj/buy/"
lua_script = '''
function main(splash, args)splash:go('{}')splash:wait(1)return splash:html()
end
'''.format(url)
splash_url = "http://192.168.2.10:8050/execute?lua_source={}".format(quote(lua_script))
response = requests.get(splash_url, headers={"User-Agent": UserAgent().random})
response.encoding = 'utf-8'
print(response.text)

5、应用例子

5.1、爬取京东商品

import json
import requests
from lxml import etree
from urllib.parse import quote
lua = '''
function main(splash, args)local treat = require("treat")local response = splash:http_get("https://search.jd.com/Search?keyword=相机&enc=utf-8")return {html = treat.as_string(response.body),url = response.url,status = response.status}    
end
'''
# 线上部署的服务，需要将localhost换成服务器的公网地址（不是内网地址）
url = 'http://192.168.2.10:8050/execute?lua_source=' + quote(lua)
response = requests.get(url)
# 由于使用splash，response.text返回结果为{"status":200,"html":"xxxxxxxxx","url":"yyyyyy"}
html = json.loads(response.text)['html']
# print(html)
tree = etree.HTML(html)# 单品
products_1 = tree.xpath('//div[@class="gl-i-wrap"]')
for item in products_1:try:name_1 = item.xpath('./div[@class="p-name p-name-type-2"]/a/em/text()')[0]price_1 = item.xpath('./div[@class="p-price"]/strong/@data-price | ./div[@class="p-price"]/strong/i/text()')[0]print(name_1)print(price_1)except:pass
print("="*90)

 

 

这篇关于基础篇(6) splash应用的文章就介绍到这儿，希望我们推荐的文章对编程师们有所帮助！


http://www.chinasem.cn/article/1115606。

相关文章

中文分词jieba库的使用与实景应用（一）

中文分词jieba库的使用与实景应用（一）

知识星球：https://articles.zsxq.com/id_fxvgc803qmr2.html 目录 一.定义： 精确模式（默认模式）： 全模式： 搜索引擎模式： paddle 模式（基于深度学习的分词模式）： 二 自定义词典 三.文本解析   调整词出现的频率 四. 关键词提取 A. 基于TF-IDF算法的关键词提取 B. 基于TextRank算法的关键词提取
阅读更多...
水位雨量在线监测系统概述及应用介绍

水位雨量在线监测系统概述及应用介绍

在当今社会，随着科技的飞速发展，各种智能监测系统已成为保障公共安全、促进资源管理和环境保护的重要工具。其中，水位雨量在线监测系统作为自然灾害预警、水资源管理及水利工程运行的关键技术，其重要性不言而喻。 一、水位雨量在线监测系统的基本原理 水位雨量在线监测系统主要由数据采集单元、数据传输网络、数据处理中心及用户终端四大部分构成，形成了一个完整的闭环系统。 数据采集单元：这是系统的“眼睛”，
阅读更多...
csu 1446 Problem J Modified LCS （扩展欧几里得算法的简单应用）

csu 1446 Problem J Modified LCS （扩展欧几里得算法的简单应用）

这是一道扩展欧几里得算法的简单应用题，这题是在湖南多校训练赛中队友ac的一道题，在比赛之后请教了队友，然后自己把它a掉 这也是自己独自做扩展欧几里得算法的题目 题意：把题意转变下就变成了：求d1*x - d2*y = f2 - f1的解,很明显用exgcd来解 下面介绍一下exgcd的一些知识点：求ax + by = c的解 一、首先求ax + by = gcd(a,b)的解 这个
阅读更多...
hdu1394(线段树点更新的应用)

hdu1394(线段树点更新的应用)

题意：求一个序列经过一定的操作得到的序列的最小逆序数 这题会用到逆序数的一个性质，在0到n-1这些数字组成的乱序排列，将第一个数字A移到最后一位，得到的逆序数为res-a+(n-a-1) 知道上面的知识点后，可以用暴力来解 代码如下： #include<iostream>#include<algorithm>#include<cstring>#include<stack>#in
阅读更多...
zoj3820(树的直径的应用)

zoj3820(树的直径的应用)

题意：在一颗树上找两个点，使得所有点到选择与其更近的一个点的距离的最大值最小。 思路：如果是选择一个点的话，那么点就是直径的中点。现在考虑两个点的情况，先求树的直径，再把直径最中间的边去掉，再求剩下的两个子树中直径的中点。 代码如下： #include <stdio.h>#include <string.h>#include <algorithm>#include <map>#
阅读更多...
零基础学习Redis(10) -- zset类型命令使用

零基础学习Redis(10) -- zset类型命令使用

zset是有序集合，内部除了存储元素外，还会存储一个score，存储在zset中的元素会按照score的大小升序排列，不同元素的score可以重复，score相同的元素会按照元素的字典序排列。 1. zset常用命令 1.1 zadd  zadd key [NX | XX] [GT | LT]   [CH] [INCR] score member [score member ...]
阅读更多...
【区块链 + 人才服务】可信教育区块链治理系统 | FISCO BCOS应用案例

【区块链 + 人才服务】可信教育区块链治理系统 | FISCO BCOS应用案例

伴随着区块链技术的不断完善，其在教育信息化中的应用也在持续发展。利用区块链数据共识、不可篡改的特性， 将与教育相关的数据要素在区块链上进行存证确权，在确保数据可信的前提下，促进教育的公平、透明、开放，为教育教学质量提升赋能，实现教育数据的安全共享、高等教育体系的智慧治理。 可信教育区块链治理系统的顶层治理架构由教育部、高校、企业、学生等多方角色共同参与建设、维护，支撑教育资源共享、教学质量评估、
阅读更多...
AI行业应用(不定期更新)

AI行业应用(不定期更新)

ChatPDF 可以让你上传一个 PDF 文件，然后针对这个 PDF 进行小结和提问。你可以把各种各样你要研究的分析报告交给它，快速获取到想要知道的信息。https://www.chatpdf.com/
阅读更多...
【区块链 + 人才服务】区块链集成开发平台 | FISCO BCOS应用案例

【区块链 + 人才服务】区块链集成开发平台 | FISCO BCOS应用案例

随着区块链技术的快速发展，越来越多的企业开始将其应用于实际业务中。然而，区块链技术的专业性使得其集成开发成为一项挑战。针对此，广东中创智慧科技有限公司基于国产开源联盟链 FISCO BCOS 推出了区块链集成开发平台。该平台基于区块链技术，提供一套全面的区块链开发工具和开发环境，支持开发者快速开发和部署区块链应用。此外，该平台还可以提供一套全面的区块链开发教程和文档，帮助开发者快速上手区块链开发。
阅读更多...
【C++高阶】C++类型转换全攻略：深入理解并高效应用

【C++高阶】C++类型转换全攻略：深入理解并高效应用

📝个人主页🌹：Eternity._ ⏩收录专栏⏪：C++ “ 登神长阶 ” 🤡往期回顾🤡：C++ 智能指针 🌹🌹期待您的关注 🌹🌹 ❀C++的类型转换 📒1. C语言中的类型转换📚2. C++强制类型转换⛰️static_cast🌞reinterpret_cast⭐const_cast🍁dynamic_cast 📜3. C++强制类型转换的原因📝
阅读更多...

Copyright China编程 23002807@qq.com

沪ICP备2023033072号-2