点击上方“Python编程开发”，选择“星标”

每天一起学习Python人工智能！

作者：风，又奈何https://www.cnblogs.com/CYHISTW/p/11613485.html?utm_经典电影source=tuicool&utm_medium=referral

项目开始

第一步仍然是创建scrapy项目与spider文件

切换到工作目录两条命令依次输入

scrapy startproject xu经典电影nleidianying

scrapy genspider xunleiBT https://www.xl720.com/thunder/years/2019

内容分析

打开目标网站（分类是2019年上映的经典电影电影），分析我们需要的数据

进入页面是列表的形式就像豆瓣电影一样，然后我们点进去具体页面看看

这个页面就是我们需要拿到的内容页面，我们来看我们需要哪些数据(某些数据从第一个页面就可以获得，但是下载地址必须经典电影到第二个页面)

电影名称

电影信息

电影内容剧情

电影下载地址

分析完成之后就可以首先编写 items.py文件

另外别忘了去settings.py中开启 ITEM_PIPELINES 选项

爬虫文件编写

老样子，为经典电影了方便测试我们的爬虫，首先编写一个main.py的文件方便IDE调用

main.py：

import scrapy.cmdline

scrapy.cmdline.execute(scrapy crawl x经典电影unleiBT.split())

首先我们先测试直接向目标发送请求是否可以得到响应

爬虫文件 xunleiBT.py编写如下：

运行 main.py 看看会出现什么

好的，发现直接返回正常的网页也就是我们要的经典电影网页，说明该网站没有反爬机制，这样我们就更容易爬取了

然后通过xpath定位页面元素，具体就不再赘述，之前的scarpy教程中都有 继续编写爬虫文件

ITEM爬取完成后该干什么？当然是入库保存了，编写pi经典电影pelines.py文件进行入库保存

再次提醒别忘了去settings.py中开启 ITEM_PIPELINES 选项

pipelines.py文件代码如下：

再次运行main.py 等待运行完成后打开数据经典电影库查询

数据保存完成，这次我们一共导入了380个数据，可以愉快的查看电影了

看完本文有收获？请转发分享给更多人

关注「Python编程开发」，做顶尖开发工程师！

最新 Python 干货，我在看