python弹幕拼脸_完全小白篇-用python爬取B站弹幕(非彩色弹幕以及尝试生成词云图)...

本文主要是介绍python弹幕拼脸_完全小白篇-用python爬取B站弹幕(非彩色弹幕以及尝试生成词云图)...,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

目标

爬取B站弹幕(今天是2020/8/31,最近的时间点以下方法肯定行得通)

分析网页

关于B站的弹幕,其实一个系列视频的所有弹幕是可以在其中任何一集视频就能得到的,所以这篇文章的目的并不完全算是python教程,而只是告诉大家怎么找弹幕在哪以及生成词云图。

以“小甲鱼”的python教程系列为例,我们选择打开网页源代码:

2dd053723ef1b6fed9c9ba9e470b433c.png

d21991c2022280c4fe43f357b54d6187.png

我们再根据cid号打开https://api.bilibili.com/x/v1/dm/list.so?oid=6534573(这是随便挑的一个cid对应的号,验证一下弹幕到底在不在那)

67033e11a0c5f79b71d3cb155e98fd2a.png

事实上,所有弹幕都是从b站后台另一个网页加载到当前集数的视频中的。我们看这些cid号,每个cid后都有对应的一个编号。上图是p=4第四集的网页源代码,可以发现cid这一块根本不会随着p号改变而改变,所以只需要把这一部分所有有效cid获取到就可以了。

import requests

from bs4 import BeautifulSoup

import re

import json

import os

def getHtml(baseurl):

head = { #模拟浏览器身份头向对方发送消息

"user-agent": "Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.56 (KHTML, like Gecko) Chrome/83.0.4103.116 Safari/537.56"

}

try:

response = requests.get(url = baseurl, headers = head)

if response.status_code==200:

return response.content.decode("utf-8")

except:

print("请求失败")

def main():

print("这是bv号弹幕获取软件")

bv = input("请输入bv号: ")

p = int(input("请输入p号: "))

baseurl = "https://www.bilibili.com/video/BV"+str(bv)+"?p="+str(p)

# 获取网页的源代码

req=getHtml(baseurl)

# cid所在的位置是window.__INITIAL_STATE__={}里面,所以要在这里找各个cid号

pattern = r'\'

# result结果得是string

result = re.findall(pattern, req)[0]

match_rule = r'{"cid":(.*?),'

cid = re.findall(match_rule, result)

# 打开弹幕资源位置

baseurl = "https://api.bilibili.com/x/v1/dm/list.so?oid="+str(cid[p-1])

req = getHtml(baseurl)

soup = BeautifulSoup(req,'html.parser')

match_rule = r'(.*?)'

cid = ""

for item in soup.find_all('d'):

item = str(item)

danmu = re.findall(match_rule, item)[0]

cid = cid + danmu + " "

print(cid)

os.system("pause")

if __name__ == "__main__":

main()

1e9cf494d0c912efc1341475035e6d38.png

那么,本集视频的所有弹幕的内容就如上啦~

顶部、底部彩色弹幕的获取目前还不是很懂,但是一般采集数据的话都是采集浮动无色弹幕吧,希望对大家有帮助。

另外嘞,如果不想通过网页源代码里找cid的话,也可以通过特殊的request直接获取这些cid。网页视频开始播放的时候,B站的方法是发一个叫pagelist的数据包,如下图:

28aa34c2cd56be8d17acf555b4cf2d01.png我们可以看到response就是这些cid,所以模仿浏览器写一个和它一模一样的header就可以访问它啦!这一点就不多赘述了

词云图

词云图的生成方法简直不要太多,python的扩展性确实是十分丰富!

为了生成词云图,

from matplotlib import pyplot as plt

from wordcloud import WordCloud,ImageColorGenerator

from PIL import Image

import numpy as np

def getWordCloud(text):

# 打开图片文件的路径,并利用机器学习

# numpy分析的话是对一张图片每一块像素的[R,G,B]值进行记录的,到时候生成词云的颜色就由它的分析结果完成

path_img = "./ciyun.jpg"

background_img = np.array(Image.open(path_img))

print("打开成功")

wc = WordCloud(

# 设置词云的字体

font_path="./FZZJ-YZDKJW.TTF",

width=800,

height = 900,

min_font_size = 10,

background_color = "white",

mask=background_img

).generate(text)

image_colors = ImageColorGenerator(background_img)

# 有这几句话的话可以在exe直接打开预览查看

plt.imshow(wc.recolor(color_func=image_colors), interpolation="bilinear")

plt.axis("off")

plt.show()

# 保存成图片

wc.to_file("shuchu.jpg")

这里用到的库有matplotlib、wordcloud、PIL以及numpy。所有句子的具体含义见上:

运行结果:

0f0e8b9c6a0afb39804837caf329d74c.png

其他的词云库网上有,这里不全介绍了。一般都是用jieba库进行分词的,不过试了试jieba,发现它其实还是针对文件里没有空格间隔的信息比较好用(但是分词结果还是美到不忍直视)。对于获取的弹幕数据我们其实完全也可以存储到sqlite之类的数据库进行记录。总之,词云也好,数据库、柱状图也好,python记录和展示数据的方式多种多样!

其他类视频弹幕的获取

bv号算是普通视频。其实就算是番剧、电影,也是一样的道理,只要有网页源代码就一切ok。大会员特权的番剧当然要大会员的身份,获取特权视频的网页源代码的方式可见完全小白篇-用Python爬取B站大会员番剧集

希望以上对大家有帮助。

本文同步分享在 博客“怡宝的代言人连高波”(CSDN)。

如有侵权,请联系 support@oschina.cn 删除。

本文参与“OSC源创计划”,欢迎正在阅读的你也加入,一起分享。

这篇关于python弹幕拼脸_完全小白篇-用python爬取B站弹幕(非彩色弹幕以及尝试生成词云图)...的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/500197

相关文章

Python结合PyWebView库打造跨平台桌面应用

《Python结合PyWebView库打造跨平台桌面应用》随着Web技术的发展,将HTML/CSS/JavaScript与Python结合构建桌面应用成为可能,本文将系统讲解如何使用PyWebView... 目录一、技术原理与优势分析1.1 架构原理1.2 核心优势二、开发环境搭建2.1 安装依赖2.2 验

IDEA自动生成注释模板的配置教程

《IDEA自动生成注释模板的配置教程》本文介绍了如何在IntelliJIDEA中配置类和方法的注释模板,包括自动生成项目名称、包名、日期和时间等内容,以及如何定制参数和返回值的注释格式,需要的朋友可以... 目录项目场景配置方法类注释模板定义类开头的注释步骤类注释效果方法注释模板定义方法开头的注释步骤方法注

一文详解如何在Python中从字符串中提取部分内容

《一文详解如何在Python中从字符串中提取部分内容》:本文主要介绍如何在Python中从字符串中提取部分内容的相关资料,包括使用正则表达式、Pyparsing库、AST(抽象语法树)、字符串操作... 目录前言解决方案方法一:使用正则表达式方法二:使用 Pyparsing方法三:使用 AST方法四:使用字

Python列表去重的4种核心方法与实战指南详解

《Python列表去重的4种核心方法与实战指南详解》在Python开发中,处理列表数据时经常需要去除重复元素,本文将详细介绍4种最实用的列表去重方法,有需要的小伙伴可以根据自己的需要进行选择... 目录方法1:集合(set)去重法(最快速)方法2:顺序遍历法(保持顺序)方法3:副本删除法(原地修改)方法4:

Python运行中频繁出现Restart提示的解决办法

《Python运行中频繁出现Restart提示的解决办法》在编程的世界里,遇到各种奇怪的问题是家常便饭,但是,当你的Python程序在运行过程中频繁出现“Restart”提示时,这可能不仅仅是令人头疼... 目录问题描述代码示例无限循环递归调用内存泄漏解决方案1. 检查代码逻辑无限循环递归调用内存泄漏2.

Python中判断对象是否为空的方法

《Python中判断对象是否为空的方法》在Python开发中,判断对象是否为“空”是高频操作,但看似简单的需求却暗藏玄机,从None到空容器,从零值到自定义对象的“假值”状态,不同场景下的“空”需要精... 目录一、python中的“空”值体系二、精准判定方法对比三、常见误区解析四、进阶处理技巧五、性能优化

使用Python构建一个Hexo博客发布工具

《使用Python构建一个Hexo博客发布工具》虽然Hexo的命令行工具非常强大,但对于日常的博客撰写和发布过程,我总觉得缺少一个直观的图形界面来简化操作,下面我们就来看看如何使用Python构建一个... 目录引言Hexo博客系统简介设计需求技术选择代码实现主框架界面设计核心功能实现1. 发布文章2. 加

python logging模块详解及其日志定时清理方式

《pythonlogging模块详解及其日志定时清理方式》:本文主要介绍pythonlogging模块详解及其日志定时清理方式,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地... 目录python logging模块及日志定时清理1.创建logger对象2.logging.basicCo

Python如何自动生成环境依赖包requirements

《Python如何自动生成环境依赖包requirements》:本文主要介绍Python如何自动生成环境依赖包requirements问题,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑... 目录生成当前 python 环境 安装的所有依赖包1、命令2、常见问题只生成当前 项目 的所有依赖包1、

如何将Python彻底卸载的三种方法

《如何将Python彻底卸载的三种方法》通常我们在一些软件的使用上有碰壁,第一反应就是卸载重装,所以有小伙伴就问我Python怎么卸载才能彻底卸载干净,今天这篇文章,小编就来教大家如何彻底卸载Pyth... 目录软件卸载①方法:②方法:③方法:清理相关文件夹软件卸载①方法:首先,在安装python时,下