学习爬虫之Scrapy框架学习（六）--1.直接使用scrapy；使用scrapy管道；使用scrapy的媒体管道类进行猫咪图片存储。媒体管道类学习。自建媒体管道类存储图片
日期： 2020-04-28 分类： 个人收藏 368次阅读
1.引入：
先来看个小案例：使用scrapy爬取百度图片。（
目标百度图片URL：
https://image.baidu.com/search/index?tn=baiduimage&ipn=r&ct=201326592&cl=2&lm=-1&st=-1&sf=1&fmq=&pv=&ic=0&nc=1&z=&se=1&showtab=0&fb=0&width=&height=&face=0&istype=2&ie=utf-8&fm=index&pos=history&word=%E7%8C%AB%E5%92%AA）
（1）不使用管道，直接存储本地：
1.创建scrapy项目及爬虫文件
'''
终端依此输入：
1.scrapy startproject baiduimgs
2.cd baiduimgs
3.scrapy genspider bdimg www
'''
2.编写爬虫文件：
除特别声明，本站所有文章均为原创，如需转载请以超级链接形式注明出处：SmartCat's Blog
上一篇： shell变量赋值以及使用
精华推荐