Python爬虫实战(五):某博终篇之粉丝和关注者账号的爬取

2024-03-04 17:10

本文主要是介绍Python爬虫实战(五):某博终篇之粉丝和关注者账号的爬取,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

追风赶月莫停留,平芜尽处是春山。

文章目录

  • 追风赶月莫停留,平芜尽处是春山。
  • 一、网页分析
  • 二、接口分析
    • url分析
    • 返回数据分析
  • 三、编写代码
    • 获取数据
    • 保存数据
    • 完整代码

终于终于终于期末考试结束了,暑假集训也结束了,终于有时间来更新我的博客了!!
今天咱们来聊一聊关于微博粉丝和关注者账号的抓取。
依旧是使用新版微博,依旧是熟悉的女神迪丽热巴😍。

咱们先看粉丝

一、网页分析

在这里插入图片描述
点击热巴的粉丝,然后F12开发者模式,然后刷新,依次点击Network -> XHR -> friends?relate=fans... -> Preview, 你就会发现,热巴的粉丝的账户信息(uid,性别,个性签名, 认证信息,所在地区等等)
在这里插入图片描述
我给你们摘出来了请求但这个只是一页的,想获取所有的那就继续往下看吧!

二、接口分析

url分析

https://www.weibo.com/ajax/friendships/friends?relate=fans&page=1&uid=1669879400&type=all&newFollowerCount=0

很明显,他有两个参数:

  1. page
    这个参数掌管着页数,想要获得多页的数据那就必须改变它。
  2. uid
    这个参数掌管着你要获取粉丝和关注的博主的id,也就是用户id

如果你能掌管好这两个参数,那数据不就是手到擒来嘛!

返回数据分析

是get请求,返回数据格式是json格式,编码为utf-8
在这里插入图片描述
突然发现这几次实战请求方式都是GET请求,这可不行,下下期吧,我出一期POST请求的,也让大家看看POSTGET有啥区别。
回归正题~下一步就是编写代码了。

三、编写代码

知道了url规则,以及返回数据的格式,那现在咱们的任务就是构造url然后请求数据
uid不是问题,那怎么知道他有多少页呢
这个简单:
第一页
在这里插入图片描述
第二页
在这里插入图片描述
发现没,previous_cursor的数量加了20,而咱们请求一页数据返回的用户的数量正好是20个,totao_number对应的是该博主总粉丝数量,知道这两点,那咱们不就好办了,最大页数不就得是total_number/20,不能整除就加一,最后也就是 ⌈ t o t a l _ n u m b e r 20 ⌉ \lceil \frac{total\_number}{20} \rceil 20total_number这个都懂吧。

uid = ['1669879400']
for id in uid:# 先获取总的粉丝数量url = "https://www.weibo.com/ajax/friendships/friends?relate=fans&page={}&uid={}&type=all&newFollowerCount=0"html = get_html(url.format(1, id))response = json.loads(html)total_number = response['total_number']# 然后依次爬取每一页的数据for page in range(1, math.ceil(total_number/20) + 1):html = get_html(url.format(page, id))

只要在uid这个列表里添加用户id,这样就可以实现多个用户粉丝数据的抓取了。
对于每个url我们都要去用requests库中的get方法去请求数据:
所以我们为了方便就把请求网页的代码写成了函数get_html(url),传入的参数是url返回的是请求到的内容。

def get_html(url):headers = {"User-Agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/89.0.4389.82 Safari/537.36","Referer": "https://weibo.com"}cookies = {"cookie": "你的cookie"}response = requests.get(url, headers=headers, cookies=cookies)time.sleep(5)   # 加上5s 的延时防止被反爬return response.text

注意这里一定要把你的cookie替换掉,不然请求不到内容。
cookies获取方式

获取数据

将获得的数据格式化为json格式的数据,然后提前他的粉丝的信息

response = json.loads(html)fans_list = response['users']data = {}   # 创建一个字典存放数据for fan in fans_list:data['uid'] = fan['id']     # 用户iddata['screen_name'] = fan['screen_name']    # 用户昵称data['description'] = fan['description']  # 个性签名data['gender'] = fan['gender']  # 性别data['followers_count'] = fan['followers_count']    # 粉丝的粉丝数量data['friends_count'] = fan['friends_count']    # 粉丝的关注数量data['statuses_count'] = fan['statuses_count']    # 粉丝的博文数量# 还有很多信息可以得到,我这里就不再举例子了

保存数据

封装了一个函数:

def save_fans_data(data):title = ['screen_name', 'description', 'followers_count', 'friends_count', 'statuses_count',  'gender', 'verified', 'verified_reason', 'birthday', 'created_at', 'sunshine_credit', 'company', 'school']with open("fans_data.csv", "a", encoding="utf-8", newline="")as fi:fi = csv.writer(fi)fi.writerow([data[k] for k in title])

再来看关注
在这里插入图片描述
你可以先去自己看一下,是不是和爬取粉丝数据的方式一样呀,自己尝试着编写一下代码吧~

完整代码

# -*- coding:utf-8 -*-
# @time: 2021/7/24 21:52
# @Author: 韩国麦当劳
# @Environment: Python 3.7
import json
import requests
import csv
import time
import mathdef get_html(url):headers = {"User-Agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/89.0.4389.82 Safari/537.36","Referer": "https://weibo.com"}cookies = {"cookie": "你的cookie"}response = requests.get(url, headers=headers, cookies=cookies)time.sleep(5)   # 加上5s 的延时防止被反爬return response.textdef save_fans_data(data):title = ['uid', 'id', 'screen_name', 'description', 'followers_count', 'friends_count', 'statuses_count',  'gender']with open("fans_data.csv", "a", encoding="utf-8", newline="")as fi:fi = csv.writer(fi)fi.writerow([data[k] for k in title])def save_followers_data(data):title = ['uid', 'id', 'screen_name', 'description', 'followers_count', 'friends_count', 'statuses_count',  'gender']with open("followers_data.csv", "a", encoding="utf-8", newline="")as fi:fi = csv.writer(fi)fi.writerow([data[k] for k in title])def get_fans_data(id):# 先获取总的粉丝数量url = "https://www.weibo.com/ajax/friendships/friends?relate=fans&page={}&uid={}&type=all&newFollowerCount=0"html = get_html(url.format(1, id))response = json.loads(html)total_number = response['total_number']# 然后依次爬取每一页的数据for page in range(1, math.ceil(total_number/20) + 1):html = get_html(url.format(page, id))response = json.loads(html)fans_list = response['users']data = {}   # 创建一个字典存放数据for fan in fans_list:data['uid'] = iddata['id'] = fan['id']     # 用户iddata['screen_name'] = fan['screen_name']    # 用户昵称data['description'] = fan['description']  # 个性签名data['gender'] = fan['gender']  # 性别data['followers_count'] = fan['followers_count']    # 粉丝的粉丝数量data['friends_count'] = fan['friends_count']    # 粉丝的关注数量data['statuses_count'] = fan['statuses_count']    # 粉丝的博文数量# 还有很多信息可以得到,我这里就不再举例子了save_fans_data(data)def get_followers_data(id):# 先获取总的关注的数量url = "https://www.weibo.com/ajax/friendships/friends?page={}&uid={}"html = get_html(url.format(1, id))response = json.loads(html)total_number = response['total_number']# 然后依次爬取每一页的数据for page in range(1, math.ceil(total_number / 20) + 1):html = get_html(url.format(page, id))response = json.loads(html)fans_list = response['users']data = {}  # 创建一个字典存放数据for fan in fans_list:data['uid'] = iddata['id'] = fan['id']  # 用户iddata['screen_name'] = fan['screen_name']  # 用户昵称data['description'] = fan['description']  # 个性签名data['gender'] = fan['gender']  # 性别data['followers_count'] = fan['followers_count']  # 关注的粉丝数量data['friends_count'] = fan['friends_count']  # 关注的关注数量data['statuses_count'] = fan['statuses_count']  # 关注的博文数量# 还有很多信息可以得到,我这里就不再举例子了save_followers_data(data)if __name__ == '__main__':uid = ['1669879400']    # 如果想获取多个人的粉丝关注信息,就在后面依次加上uidfor id in uid:get_fans_data(id)get_followers_data(id)

获得的部分数据截图(以前是我不好,从今以后获得的数据只要是涉及到隐私的全部打码处理)。
在这里插入图片描述
下期预告:
百度指数对于一个关键词的搜索指数和咨询指数的抓取,提前剧透一下:js加密数据哟~
在这里插入图片描述
欢迎一键三连哦!
还想看哪个网站的爬虫?欢迎留言,说不定下次要分析的就是你想要看的!

这篇关于Python爬虫实战(五):某博终篇之粉丝和关注者账号的爬取的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/773862

相关文章

Python中你不知道的gzip高级用法分享

《Python中你不知道的gzip高级用法分享》在当今大数据时代,数据存储和传输成本已成为每个开发者必须考虑的问题,Python内置的gzip模块提供了一种简单高效的解决方案,下面小编就来和大家详细讲... 目录前言:为什么数据压缩如此重要1. gzip 模块基础介绍2. 基本压缩与解压缩操作2.1 压缩文

Python设置Cookie永不超时的详细指南

《Python设置Cookie永不超时的详细指南》Cookie是一种存储在用户浏览器中的小型数据片段,用于记录用户的登录状态、偏好设置等信息,下面小编就来和大家详细讲讲Python如何设置Cookie... 目录一、Cookie的作用与重要性二、Cookie过期的原因三、实现Cookie永不超时的方法(一)

Python内置函数之classmethod函数使用详解

《Python内置函数之classmethod函数使用详解》:本文主要介绍Python内置函数之classmethod函数使用方式,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地... 目录1. 类方法定义与基本语法2. 类方法 vs 实例方法 vs 静态方法3. 核心特性与用法(1编程客

Python函数作用域示例详解

《Python函数作用域示例详解》本文介绍了Python中的LEGB作用域规则,详细解析了变量查找的四个层级,通过具体代码示例,展示了各层级的变量访问规则和特性,对python函数作用域相关知识感兴趣... 目录一、LEGB 规则二、作用域实例2.1 局部作用域(Local)2.2 闭包作用域(Enclos

Python实现对阿里云OSS对象存储的操作详解

《Python实现对阿里云OSS对象存储的操作详解》这篇文章主要为大家详细介绍了Python实现对阿里云OSS对象存储的操作相关知识,包括连接,上传,下载,列举等功能,感兴趣的小伙伴可以了解下... 目录一、直接使用代码二、详细使用1. 环境准备2. 初始化配置3. bucket配置创建4. 文件上传到os

从原理到实战深入理解Java 断言assert

《从原理到实战深入理解Java断言assert》本文深入解析Java断言机制,涵盖语法、工作原理、启用方式及与异常的区别,推荐用于开发阶段的条件检查与状态验证,并强调生产环境应使用参数验证工具类替代... 目录深入理解 Java 断言(assert):从原理到实战引言:为什么需要断言?一、断言基础1.1 语

使用Python实现可恢复式多线程下载器

《使用Python实现可恢复式多线程下载器》在数字时代,大文件下载已成为日常操作,本文将手把手教你用Python打造专业级下载器,实现断点续传,多线程加速,速度限制等功能,感兴趣的小伙伴可以了解下... 目录一、智能续传:从崩溃边缘抢救进度二、多线程加速:榨干网络带宽三、速度控制:做网络的好邻居四、终端交互

Python中注释使用方法举例详解

《Python中注释使用方法举例详解》在Python编程语言中注释是必不可少的一部分,它有助于提高代码的可读性和维护性,:本文主要介绍Python中注释使用方法的相关资料,需要的朋友可以参考下... 目录一、前言二、什么是注释?示例:三、单行注释语法:以 China编程# 开头,后面的内容为注释内容示例:示例:四

Python中win32包的安装及常见用途介绍

《Python中win32包的安装及常见用途介绍》在Windows环境下,PythonWin32模块通常随Python安装包一起安装,:本文主要介绍Python中win32包的安装及常见用途的相关... 目录前言主要组件安装方法常见用途1. 操作Windows注册表2. 操作Windows服务3. 窗口操作

Python中re模块结合正则表达式的实际应用案例

《Python中re模块结合正则表达式的实际应用案例》Python中的re模块是用于处理正则表达式的强大工具,正则表达式是一种用来匹配字符串的模式,它可以在文本中搜索和匹配特定的字符串模式,这篇文章主... 目录前言re模块常用函数一、查看文本中是否包含 A 或 B 字符串二、替换多个关键词为统一格式三、提