Awesome Open Source
Awesome Open Source

pspider


开发环境 Python 3.7.1

spider目录下 一个简单的爬虫框架

app celery要用到这个,放celery的各种配置,以及对celery的封装

核心封装&说明

sdks 放集成进平台的爬虫sdk

爬虫任务一般也会分为两种

  • 流式任务 - 要实时请求的
  • 批任务 - 批量累积的

对于实时的任务,对延时、机器可靠性要求也就更高 批任务的话尽量优化执行性能即可

提供接口将结果进行统一管理 任务并发依靠框架,用的时候只需配置即可

整体思路 master 会来管理控制slave的执行,调度。主要依靠supervisor+一个http服务实现 具体的每个slave执行相应的celery进程,爬虫通过sdk集成到服务中进行统一管理


Get A Weekly Email With Trending Projects For These Topics
No Spam. Unsubscribe easily at any time.
python (50,900
spider (251
celery (77
crawl (20
flask-api (15

Find Open Source By Browsing 7,000 Topics Across 59 Categories