Crawlab简介
安装Crawlab
Docker
直接部署
配置Crawlab
使用Crawlab
节点
查看节点列表
查看节点拓扑图
爬虫
创建爬虫
自定义爬虫
可配置爬虫
部署爬虫
运行爬虫
统计数据
任务
查看任务
操作任务
下载结果
定时任务
原理
整体架构
节点通信
节点监控
爬虫部署
任务执行
样例
与Scrapy集成
与Puppeteer集成
Q&A
Published with GitBook
部署爬虫
部署爬虫
Crawlab是自动部署爬虫的,每60秒主节点会将该节点上的爬虫文件同步给所有在线节点。因此,用户上传了爬虫之后,只需要等待最多60秒,就可以在所有节点上运行爬虫任务了。
results matching "
"
No results matching "
"