备注
这是一个基于Python的专项程序,用以接入 花瓣网下载 和 堆糖网下载 两个油猴脚本的远程下载服务。
基于PHP的,文档是:Tdi for PHP
基于Node.js的,文档是:Tdi for Node
基于Golang的,文档是:Tdi for Golang
故此程序也可以称之为:Tdi for Python,以做区分。
GitHub:https://github.com/staugur/tdi
语言:Python
框架:Flask
异步任务下载花瓣网、堆糖网图片
仍然支持发送邮箱和短信以及微信查询进度。
定时检测资源以免影响远端服务器,后续会资源报警。
自主设置远端服务是否可用;随意关停服务。
支持PyPy,Python2.7、3+
下载前、下载中检测磁盘使用率,大于限定值(默认80)则停止后续下载。
支持私有(即个人专属服务)!
成员端启动程序,到中心端页面https://open.sainitc.com/CrawlHuaban/Register
注册成员端URL。
中心端校验成员端规则,没问题则注册到中心端。
中心端定时检测成员端,查询其可用性、磁盘、负载、内存,并更新状态。
用户请求时,中心端根据成员端状态和资源计算是否可用,然后从可用列表中分配。
此程序收到下载请求后,放入异步任务队列,下载完成后回调给中心端,实现提醒、记录等。
要求: Python2.7(3+)和Redis
下载: git clone https://github.com/staugur/tdi && cd tdi/src
依赖: pip install -r requirements.txt
配置: 即config.py
文件,可以从环境变量中读取配置信息。
启动: sh online_rq.sh start && sh online_gunicorn.sh start