本文主要是介绍python scrapy框架制作爬虫,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!
使用pip安装:
pip install Scrapy
进入http://www.lfd.uci.edu/~gohlke/pythonlibs/#twisted ,下载对应的版本
查看相应版本
import pip
import pip._internal.pep425tags
print(pip)
print(pip._internal.pep425tags.get_supported())
添加新的 scrapy 项目
scrapy startproject doubanNew Scrapy project 'douban', using template directory 'f:\python\lib\site-packages\scrapy\templates\project', created in:F:\PythonWenjian\project\doubanYou can start your first spider with:cd doubanscrapy genspider example example.com
创建爬虫
scrapy genspider douban_spider movie.douban.com
允许访问 (启动爬虫)
scrapy crawl douban_spider(爬虫名称)
安装PyMySQL
python -m pip install PyMySQL
这篇关于python scrapy框架制作爬虫的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!