Rust爬虫练手:获取B站“庆余年2“短视频地址

2024-05-31 01:04
文章标签 rust 视频 地址 爬虫 获取 练手 余年

本文主要是介绍Rust爬虫练手:获取B站“庆余年2“短视频地址，希望对大家解决编程问题提供一定的参考价值，需要的开发者们随着小编来一起学习吧！

1. 基本模板

这里的外链接指的所有是<href>标签的值；

// 导入 error_chain 宏，用于定义错误处理宏
use error_chain::error_chain;
// 导入 select 库中的 Document 结构体，用于解析 HTML 文档
use select::document::Document;
// 导入 select 库中的 Name 谓词，用于选择指定标签
use select::predicate::Name;// 使用 error_chain 宏定义错误处理宏
error_chain! {// 定义外部错误链接foreign_links {// 将 reqwest 库中的 Error 错误类型映射为 ReqErrorReqError(reqwest::Error);// 将 std::io 库中的 Error 错误类型映射为 IoErrorIoError(std::io::Error);}
}// 异步 main 函数，使用 tokio::main 宏标记为异步函数
#[tokio::main]
async fn main() -> Result<()> {// 发起 GET 请求获取指定网址的响应let res = reqwest::get("https://www.qianlans.top").await? // 等待请求完成，处理可能出现的请求错误.text() // 将响应转换为文本.await?; // 等待文本转换完成，处理可能出现的 IO 错误// 从响应文本创建一个 Document 对象Document::from(res.as_str())// 查找所有符合条件的 <a> 标签.find(Name("a"))// 获取每个 <a> 标签的 href 属性值，过滤掉空值.filter_map(|n| n.attr("href"))// 遍历每个 href 属性值并打印.for_each(|x| println!("{}", x));// 返回 Ok 表示程序执行成功Ok(())
}

2. 案例实操：爬取B站搜索”庆余年2“的视频数据

2.1 第一爬：爬取当页所有链接

最近庆余年相关的内容都比较受欢迎，这里就以爬取B站以庆余年为关键词搜索出来的视频链接作为示例演示这段代码的功能：

爬取的目标地址:

https://search.bilibili.com/all?vt=27468598&keyword=%E5%BA%86%E4%BD%99%E5%B9%B42&from_source=webtop_search&spm_id_from=333.934&search_source=2

image-20240516105611321

2.2 第二爬：过滤非法链接

从上面爬取得数据来看，爬取得链接地址并不全部符合我们得要求，我们需要是包含了https开头得完可访问的视频url，但是这里却包含了一些奇奇怪怪的地址，比如开头那几行就没意义，后面这些地址也不是完整的URL,因此还需要进一步改进我们的代码；

use error_chain::error_chain;
use regex::Regex;
use select::document::Document;
use select::predicate::Name;
error_chain! {foreign_links {ReqError(reqwest::Error);IoError(std::io::Error);}
}#[tokio::main]
async fn main() -> Result<()> {let res = reqwest::get("https://search.bilibili.com/all?keyword=%E5%BA%86%E4%BD%99%E5%B9%B42&from_source=webtop_search&spm_id_from=333.934&search_source=2").await?.text().await?;let base_url = "https:";let re = Regex::new(r"//www\.bilibili\.com/video/[^?]*\?from=search").unwrap();let mut count = 0;Document::from(res.as_str()).find(Name("a")).filter_map(|n| n.attr("href")).filter(|href| re.is_match(href)).for_each(|href| {let full_url = if href.starts_with("//") {format!("{}{}", base_url, href)} else {href.to_string()};count += 1;println!("{}", full_url);});println!("==============================爬完了================================");println!("当页爬取视频条数:{}", count);Ok(())
}

这段代码在原基础上做了一下几点调整：

  • 新增了一个base_url，用来对获取到的相对地址进行追加https头，完善链接；
  • 新增了一个匹配规则，使用正则表达式过滤不满足条件的地址，我们需要的只是当页的可访问视频URL。

2.3 第三爬：自动翻页,爬取所有数据

  • 通过上面两次爬取，我们的程序已经可以正常爬取并过滤当前页的视频数据了，那么接下来如何实现自动爬取第二页、第三页到全部页码的总数据呢？
  • 观察页面，总结规律

打开B站搜索结果地址，默认就是第一页的，我们看看这页的地址栏信息如下：

  • 第一页：

image-20240516120651582

  • 第二页：

image-20240516120726646

  • 第三页

image-20240516120827889

  • 第四页

image-20240516120907799

嗯~ o(￣▽￣)o，差不多了，通过观察这几页的地址可以提取出来他们的公共部分:

image-20240516121204986

也就是说，这部分是固定不变的，不管你当前页码是多少页也不影响。真正动态变化的是后面这部分：

&page=n&o=108

一眼就看出来：

  • page代表当前页的页码，比如2,3,4,4,5...n;
  • o代表截至当前页的数据总条数，注意这是从第二页开始计算的

B站目前视频搜索结果的分页策略是每页36条数据，假设我们以第4页为例，那么截至第4页，当前的视频总数就是 ( 4 − 1 ) ∗ 36 = 108 (4-1)*36=108 (4−1)∗36=108;也就是 o = ( p a g e − 1 ) ∗ 36 o = (page-1) * 36 o=(page−1)∗36;

额，有点跑题了，其实不需要知道的如此准确。我们需要的就是每页的地址栏变化规律

use error_chain::error_chain;
use regex::Regex;
use select::document::Document;
use select::predicate::Name;error_chain! {foreign_links {ReqError(reqwest::Error);IoError(std::io::Error);}
}#[tokio::main]
async fn main() -> Result<()> {let base_url = "https://search.bilibili.com/all?keyword=%E5%BA%86%E4%BD%99%E5%B9%B42&from_source=webtop_search&spm_id_from=333.934&search_source=2&page=";let base_offset = "&o=";let re = Regex::new(r"//www\.bilibili\.com/video/[^?]*\?from=search").unwrap();let mut count = 0;let mut page = 1;loop {let url = format!("{}{}{}{}", base_url, page, base_offset, (page - 1) * 36);let res = reqwest::get(&url).await?.text().await?;let links_count = Document::from(res.as_str()).find(Name("a")).filter_map(|n| n.attr("href")).filter(|href| re.is_match(href)).map(|href| {let full_url = if href.starts_with("//") {format!("https:{}", href)} else {href.to_string()};count += 1;println!("Link {}: {}", count, full_url);}).count();if links_count == 0 {break; // No more links found on this page, exit the loop}page += 1;}println!("==============================爬完了================================");println!("总共爬取视频条数: {}", count);Ok(())
}

下面是爬取页码数据之后的结果，符合条件的URL，随便点一条都是可以正常访问的。

不过从数据来看，爬取的数据存在重复的情况，但是此时由于请求次数过多，已经触发了B站的风控策略，暂时没法继续调试了，剩下的去重工作就交给你了，年轻人！

image-20240516130505968

B站风控结束，今天继续将后面部分补上吧！

2.4 第四爬：对数据进行去重

今天又可以继续请求数据了，所以就花几分钟时间把这部分补上。之前的数据是存在重复的，这就导致了爬取到的数据是原数据条数的两倍，这里简单做了个去重，原理比较简单，用HashSet这个数据结构。

use std::collections::HashSet;use error_chain::error_chain;
use regex::Regex;
use select::document::Document;
use select::predicate::Name;error_chain! {foreign_links {ReqError(reqwest::Error);IoError(std::io::Error);}
}#[tokio::main]
async fn main() -> Result<()> {let base_url = "https://search.bilibili.com/all?keyword=%E5%BA%86%E4%BD%99%E5%B9%B42&from_source=webtop_search&spm_id_from=333.934&search_source=2&page=";let base_offset = "&o=";let re = Regex::new(r"//www\.bilibili\.com/video/[^?]*\?from=search").unwrap();let mut count = 0;let mut page = 1;let mut visited_links = HashSet::new();loop {let url = format!("{}{}{}{}", base_url, page, base_offset, (page - 1) * 36);let res = reqwest::get(&url).await?.text().await?;let links_count = Document::from(res.as_str()).find(Name("a")).filter_map(|n| n.attr("href")).filter(|href| re.is_match(href)).map(|href| {let full_url = if href.starts_with("//") {format!("https:{}", href)} else {href.to_string()};// count += 1;if !visited_links.contains(&full_url) {visited_links.insert(full_url.clone());count+=1;println!("Link {}: {}", count, full_url);}}).count();if links_count == 0 {break; // No more links found on this page, exit the loop}page += 1;}println!("==============================爬完了================================");println!("总共爬取视频条数: {}", count);Ok(())
}

image-20240517102153325

在上面的代码示例中，使用了 visited_links.insert(full_url.clone()) 来将链接添加到 HashSet 中。这里的 clone() 操作会复制 full_url 的所有内容，可能会对性能产生一定影响，特别是在处理大量数据时。

2.5 第五爬：将数据写入文件

在终端打印爬取得数据显然不是一种很可取得方法，现在我们通过修改代码，将爬取得数据写入到指定得文件中进行持久化。

use error_chain::error_chain;
use regex::Regex;
use select::document::Document;
use select::predicate::Name;
use std::collections::HashSet;
use std::fs::File;
use std::io::prelude::*;error_chain! {foreign_links {ReqError(reqwest::Error);IoError(std::io::Error);}
}#[tokio::main]
async fn main() -> Result<()> {let base_url = "https://search.bilibili.com/all?keyword=%E5%BA%86%E4%BD%99%E5%B9%B42&from_source=webtop_search&spm_id_from=333.934&search_source=2&page=";let base_offset = "&o=";let re = Regex::new(r"//www\.bilibili\.com/video/[^?]*\?from=search").unwrap();let mut count = 0;let mut page = 1;let mut visited_links = HashSet::new();let mut output_file = File::create("庆余年2视频链接.txt")?; // 处理Result以获取File对象loop {let url = format!("{}{}{}{}", base_url, page, base_offset, (page - 1) * 36);let res = reqwest::get(&url).await?.text().await?;let links_count = Document::from(res.as_str()).find(Name("a")).filter_map(|n| n.attr("href")).filter(|href| re.is_match(href)).map(|href| {let full_url = if href.starts_with("//") {format!("https:{}", href)} else {href.to_string()};if !visited_links.contains(&full_url) {visited_links.insert(full_url.clone());count += 1;writeln!(&mut output_file, "Link {}: {}", count, full_url).unwrap();//println!("数据已写入文件!");}}).count();if links_count == 0 {break; // No more links found on this page, exit the loop}page += 1;}println!("数据已写入文件");Ok(())
}

image-20240517111509389
项目地址:GiHub

这篇关于Rust爬虫练手:获取B站“庆余年2“短视频地址的文章就介绍到这儿，希望我们推荐的文章对编程师们有所帮助！


http://www.chinasem.cn/article/1017179。

相关文章

通过高德api查询所有店铺地址信息

通过高德api查询所有店铺地址信息

通过高德api查询所有店铺地址电话信息 需求：通过高德api查询所有店铺地址信息需求分析具体实现1、申请高德appkey2、下载types city 字典值3、具体代码调用 需求：通过高德api查询所有店铺地址信息 需求分析 查询现有高德api发现现有接口关键字搜索API服务地址： https://developer.amap.com/api/webservice/gui
阅读更多...
时间服务器中，适用于国内的 NTP 服务器地址，可用于时间同步或 Android 加速 GPS 定位

时间服务器中，适用于国内的 NTP 服务器地址，可用于时间同步或 Android 加速 GPS 定位

NTP 是什么？   NTP 是网络时间协议（Network Time Protocol），它用来同步网络设备【如计算机、手机】的时间的协议。 NTP 实现什么目的？   目的很简单，就是为了提供准确时间。因为我们的手表、设备等，经常会时间跑着跑着就有误差，或快或慢的少几秒，时间长了甚至误差过分钟。 NTP 服务器列表 最常见、熟知的就是 www.pool.ntp.org/zo
阅读更多...
Python爬虫-贝壳新房

Python爬虫-贝壳新房

前言 本文是该专栏的第32篇，后面会持续分享python爬虫干货知识，记得关注。 本文以某房网为例，如下图所示，采集对应城市的新房房源数据。具体实现思路和详细逻辑，笔者将在正文结合完整代码进行详细介绍。接下来，跟着笔者直接往下看正文详细内容。（附带完整代码） 正文 地址：aHR0cHM6Ly93aC5mYW5nLmtlLmNvbS9sb3VwYW4v 目标：采集对应城市的
阅读更多...
百度OCR识别结构结构化处理视频

百度OCR识别结构结构化处理视频

https://edu.csdn.net/course/detail/10506
阅读更多...
【青龙面板辅助】JD商品自动给好评获取京豆脚本

【青龙面板辅助】JD商品自动给好评获取京豆脚本

1.打开链接 开下面的链接进入待评价商品页面 https://club.jd.com/myJdcomments/myJdcomments.action?sort=0 2.登陆后执行脚本 登陆后，按F12键，选择console，复制粘贴以下代码，先运行脚本1，再运行脚本2 脚本1代码 可以自行修改评价内容。 var content = '材质很好，质量也不错，到货也很快物流满分，包装快递满
阅读更多...
开启青龙 Ninja 扫码功能失效后修改成手动填写CK功能【修正Ninja拉库地址】

开启青龙 Ninja 扫码功能失效后修改成手动填写CK功能【修正Ninja拉库地址】

国内：进入容器docker exec -it qinglong bash #获取ninjagit clone -b main https://ghproxy.com/https://github.com/wjx0428/ninja.git /ql/ninja#安装cd /ql/ninja/backend && pnpm install cp .env.example .env
阅读更多...
局域网内vue2 配置本地IP地址访问项目

局域网内vue2 配置本地IP地址访问项目

在日常开发中同事可能需要访问你的前端项目，可以通过配置实现通过ip访问 一.首先找到config文件夹目录下的 index.js文件             将此处的host的值修改为0.0.0.0(即 host: 0.0.0.0) // Various Dev Server settings//host: 'localhost' //将localhost进行替换成 0.0.0.0host:
阅读更多...
Spring 内部类获取不到@Value配置值问题排查（附Spring代理方式）

Spring 内部类获取不到@Value配置值问题排查（附Spring代理方式）

目录 一、实例问题 1、现象 2、原因 3、解决 二、Spring的代理模式 1、静态代理（Static Proxy） 1）原理 2）优缺点 3）代码实现 2、JDK动态代理（JDK Dynamic Proxy） 1）原理 2）优缺点 3）代码实现 3、cglib 代理（Code Generation Library Proxy） 1）原理 2）优缺点 3）代码实
阅读更多...
获取Windows系统版本号（转）

获取Windows系统版本号（转）

https://blog.csdn.net/sunflover454/article/details/51525179
阅读更多...
爬虫阶段思考

爬虫阶段思考

内容：写这篇文章是因为最近帮同学改了很多的爬虫代码，感触良多。 我用豆瓣为例，并不是不会用别的，而是这个我个人感觉最经典。然后还会写我遇到的一些问题以及解决方法。 首先，我们得先知道怎样爬取。我用的scrapy框架爬取。 我对此图的理解就是： 从spiders中获得一个请求（REQUEST），通过引擎传递给调度器，之后再返回给引擎，引擎把url封装好后传递给下载器，下载器将资源下载好后
阅读更多...

Copyright China编程 23002807@qq.com

沪ICP备2023033072号-2