说明:爬虫估计很多人知道,可以自动下载一些网站上面的图片,视频,这里说下使用FileManager和爬虫建立影音、图片库,并分享几个美女站爬虫(1024/mm131/91/mmjpg)。想看美女的可以爬来看看。至于其他学习资料网站的爬虫,可以去Github上找找。
截图
使用教程
爬虫使用python3+requests库编写,在Windows系统和Linux系统下都可以运行,大部分Ubuntu、Debian都含有Python3,直接安装最新此系统就可以了。而CentOS需要额外安装Python3,这里只说下CentOS 7系统使用方法。
1、安装FileManager网盘
教程参考:利用Caddy扩展快速安装FileManager私人网盘/在线文件管理器。
2、检查Python3并升级
查看Python3是否安装
1 | python3 -V |
如果返回-bash: python3: command not found,就使用Python 3.6一键脚本进行安装:
1 | wget https://www.moerats.com/usr/shell/Python3/CentOS_Python3.6.sh && sh CentOS_Python3.6.sh |
本脚本包含许多必需库,不会因为缺少依赖而出问题,如果不想用脚本的,也可以手动升级,教程参考:Linux CentOS升级Python 3.6版本方法。
3、安装requests库
1 | pip3 install requests |
4、创建文件夹
1 | mkdir /usr/local/caddy/www/file/xx |
5、下载并运行爬虫
91视频爬虫,默认只爬精华前100页,修改while flag<=100即可更改页数。
1 | wget https://www.moerats.com/usr/shell/Python3/91_spider.py && python3 91_spider.py |
建议使用screen后台操作,参考:使用screen来实现多任务不断线操作命令。最后进入FileManager网盘查看即可。
爬虫提供:eqblog大佬