一个Pixiv小爬虫,目前只可以爬每日, 支持长时间爬取 跳过已经爬过的
Go to file
2020-12-14 16:35:26 +08:00
.gitignore 完善异常捕获,现在它遇到任何情况都能正常运行且正确去重 2019-09-18 23:31:16 +08:00
LICENSE 添加 LICENSE 2019-09-16 16:44:23 +00:00
Pixiv.py 完善异常捕获,现在它遇到任何情况都能正常运行且正确去重 2019-09-18 23:31:16 +08:00
README.md 更新注意事项 2020-12-14 16:35:26 +08:00
requirements.txt V1.0 2019-09-17 01:26:45 +08:00

一个Pixiv小爬虫目前只可以爬每日需要自己输入cookie 支持长时间爬取 跳过已经爬过的

环境需求

Python:3.6+ / Redis

食用方法

Linux/OSX:

git clone https://github.com/nyaasuki/PixivSpider.git && cd ./PixivSpider
python3 Pixiv.py

Windows:

  1. 下载/clone这个项目

  2. 配置好环境python、Redis

  3. 打开你的CMD窗口

  4. 输入python+ ←这是一个空格

  5. 用鼠标把Pixiv.py这个文件拖到cmd窗口

    ^_^

注意事项

1.requests安装错误

ERROR: Could not find a version that satisfies the requirement resquests ERROR: No matching distribution found for resquests

解决方案手动安装requests

'pip install -i https://pypi.tuna.tsinghua.edu.cn/simple requests'

2.请输入一个cookie

目前此项留空直接回车也可以正常爬取,如果后续添加新功能可以能需要

此项储存在本地redis中

特别提醒

请开启你的扶墙 and 全局代理模式 缓慢更新中...