(Python学习)爬虫——爬取虎牙直播网站主播名字和人气

2023-10-29 04:50

本文主要是介绍(Python学习)爬虫——爬取虎牙直播网站主播名字和人气,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

获得不同类型游戏直播间的主播名字和人气,只需要修改url的最后面地址,下面加粗黑色字体。
https://www.huya.com/g/wzry

"""
爬取虎牙直播不同游戏类型的主播及人气(仅学习使用)
"""
import re
from urllib import requestclass Spider:#对应虎牙游戏直播间ip地址url = 'https://www.huya.com/g/wzry'#正则表达式root_pattern = '<span class="avatar fl">([\s\S]*?)</span><span class="num">([\s\S]*?)</span>'name_pattern = '<i class="nick" title="([\s\S]*?)">([\s\S]*?)</i>'number_pattern = '<i class="js-num">([\s\S]*?)</i>'#爬取整个HTMLdef __fetch_content(self):r = request.urlopen(Spider.url)htmls = r.read()htmls = str(htmls, encoding='utf-8')return htmls#提取html中的信息def __analysis(self, htmls):htmls = re.findall(Spider.root_pattern, htmls)anchors = []for x in htmls:name = re.findall(Spider.name_pattern, str(x))number = re.findall(Spider.number_pattern, str(x))anchors.append({'name':name[0], 'number':number})return anchors#对提取的html信息进行过滤def __refine(self, htmls):l = lambda x : {'name':x['name'][0].strip(), 'number':x['number'][0].strip()}r = map(l, htmls)return list(r)#排序def __sort(self, htmls):htmls = sorted(htmls, key=self.__sort_seed, reverse=True)return htmls#排序的key设定def __sort_seed(self, htmls):r = re.findall('\d*',htmls['number'])number = float(r[0])*10000 + float(r[2])*1000return number#展示信息def __show(self, htmls):for rank in range(0, len(htmls)):print("rank:"+str(rank)+" name:"+htmls[rank]['name']+"------"+htmls[rank]['number'])#main函数def go(self):htmls = self.__fetch_content()htmls = self.__analysis(htmls)htmls = self.__refine(htmls)htmls = self.__sort(htmls)self.__show(htmls)spider = Spider()
spider.go()

效果如下:
在这里插入图片描述

这篇关于(Python学习)爬虫——爬取虎牙直播网站主播名字和人气的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/298346

相关文章

一文教你使用Python实现本地分页

《一文教你使用Python实现本地分页》这篇文章主要为大家详细介绍了Python如何实现本地分页的算法,主要针对二级数据结构,文中的示例代码简洁易懂,有需要的小伙伴可以了解下... 在项目开发的过程中,遇到分页的第一页就展示大量的数据,导致前端列表加载展示的速度慢,所以需要在本地加入分页处理,把所有数据先放

树莓派启动python的实现方法

《树莓派启动python的实现方法》本文主要介绍了树莓派启动python的实现方法,文中通过图文介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧... 目录一、RASPBerry系统设置二、使用sandroidsh连接上开发板Raspberry Pi三、运

Python给Excel写入数据的四种方法小结

《Python给Excel写入数据的四种方法小结》本文主要介绍了Python给Excel写入数据的四种方法小结,包含openpyxl库、xlsxwriter库、pandas库和win32com库,具有... 目录1. 使用 openpyxl 库2. 使用 xlsxwriter 库3. 使用 pandas 库

python实现简易SSL的项目实践

《python实现简易SSL的项目实践》本文主要介绍了python实现简易SSL的项目实践,包括CA.py、server.py和client.py三个模块,文中通过示例代码介绍的非常详细,对大家的学习... 目录运行环境运行前准备程序实现与流程说明运行截图代码CA.pyclient.pyserver.py参

使用Python实现批量分割PDF文件

《使用Python实现批量分割PDF文件》这篇文章主要为大家详细介绍了如何使用Python进行批量分割PDF文件功能,文中的示例代码讲解详细,感兴趣的小伙伴可以跟随小编一起学习一下... 目录一、架构设计二、代码实现三、批量分割PDF文件四、总结本文将介绍如何使用python进js行批量分割PDF文件的方法

Python实现多路视频多窗口播放功能

《Python实现多路视频多窗口播放功能》这篇文章主要为大家详细介绍了Python实现多路视频多窗口播放功能的相关知识,文中的示例代码讲解详细,有需要的小伙伴可以跟随小编一起学习一下... 目录一、python实现多路视频播放功能二、代码实现三、打包代码实现总结一、python实现多路视频播放功能服务端开

使用Python在Excel中创建和取消数据分组

《使用Python在Excel中创建和取消数据分组》Excel中的分组是一种通过添加层级结构将相邻行或列组织在一起的功能,当分组完成后,用户可以通过折叠或展开数据组来简化数据视图,这篇博客将介绍如何使... 目录引言使用工具python在Excel中创建行和列分组Python在Excel中创建嵌套分组Pyt

Python实现视频转换为音频的方法详解

《Python实现视频转换为音频的方法详解》这篇文章主要为大家详细Python如何将视频转换为音频并将音频文件保存到特定文件夹下,文中的示例代码讲解详细,感兴趣的小伙伴可以跟随小编一起学习一下... 目录1. python需求的任务2. Python代码的实现3. 代码修改的位置4. 运行结果5. 注意事项

Python利用自带模块实现屏幕像素高效操作

《Python利用自带模块实现屏幕像素高效操作》这篇文章主要为大家详细介绍了Python如何利用自带模块实现屏幕像素高效操作,文中的示例代码讲解详,感兴趣的小伙伴可以跟随小编一起学习一下... 目录1、获取屏幕放缩比例2、获取屏幕指定坐标处像素颜色3、一个简单的使用案例4、总结1、获取屏幕放缩比例from

使用Python在Excel中插入、修改、提取和删除超链接

《使用Python在Excel中插入、修改、提取和删除超链接》超链接是Excel中的常用功能,通过点击超链接可以快速跳转到外部网站、本地文件或工作表中的特定单元格,有效提升数据访问的效率和用户体验,这... 目录引言使用工具python在Excel中插入超链接Python修改Excel中的超链接Python