scrapy动态的从redis队列中获取源,并启动spider


Scrapy从redis队列中动态获取源码,启动spiderscrapy从redis队列中动态获取源码,启动spider介绍:需求:有一个redis队列,我需要从队列中获取数据(源码相关的配置规则),然后加入scrapy的spider并启动。 当前的解决方案: 打开了一个守护线程,使用scrapy的CrawlerRunn。
转载请注明原文地址:https://juke.outofmemory.cn/read/1877182.html

最新回复(0)