本文主要是介绍Xpath爬取Crossin教室的文章详情页的阅读数等示例(二),希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!
一、爬取目标描述:
从Crossin编程教室的站点的爬虫练习专栏展示的文章列表页(爬虫练习)分别进入每一篇文章的详细页面,获得每一篇文章的阅读数、点赞数和评论数并打印。
二、代码示例:
from lxml import etree
import requestsdef pages_spider(id):headers = {'User-Agent': 'Mozilla/5.0 (X11; Linux x86_64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/119.0.0.0 ''Safari/537.36'}url = 'http://111.230.211.102:8080/tasks/article/' + str(id)res = requests.get(url, headers=headers)html = res.textselector = etree.HTML(html)result = selector.xpath('//*[contains(@class,"ppx-main-block")]/p/text()')result2 = selector.xpath('//*[contains(@class,"col-xs-12")]/h5/span/text()')print(result)print(result2)for i in range(1, 9):pages_spider(i)
三、代码总结:
本次代码不像前一篇博文那样只是将爬取代码按照爬取流程的逻辑写了出来。而是将某个页面的爬取流程放入了函数体中。实现爬取流程逻辑的模块化。这样就可以用for循环来循环调用函数获取所有详情页的文章内容及获得每篇文章的阅读数、点赞数和评论数。
这篇关于Xpath爬取Crossin教室的文章详情页的阅读数等示例(二)的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!