python scrapy项目下spiders内多个爬虫同时运行
时间:2020-05-22
本文章向大家介绍python scrapy项目下spiders内多个爬虫同时运行,主要包括python scrapy项目下spiders内多个爬虫同时运行使用实例、应用技巧、基本知识点总结和需要注意事项,具有一定的参考价值,需要的朋友可以参考一下。
一般创建了scrapy文件夹后,可能需要写多个爬虫,如果想让它们同时运行而不是顺次运行的话,得怎么做?
a、在spiders目录的同级目录下创建一个commands目录,并在该目录中创建一个crawlall.py,将scrapy源代码里的commands文件夹里的crawl.py源码复制过来,只修改run()方法即可!
1 import os 2 from scrapy.commands import ScrapyCommand 3 from scrapy.utils.conf import arglist_to_dict 4 from scrapy.utils.python import without_none_values 5 from scrapy.exceptions import UsageError 6 7 class Command(ScrapyCommand): 8 requires_project = True 9 def syntax(self): 10 return "[options] <spider>" 11 def short_desc(self): 12 return "Run all spider" 13 def add_options(self, parser): 14 ScrapyCommand.add_options(self, parser) 15 parser.add_option("-a", dest="spargs", action="append", default=[], metavar="NAME=VALUE", 16 help="set spider argument (may be repeated)") 17 parser.add_option("-o", "--output", metavar="FILE", 18 help="dump scraped items into FILE (use - for stdout)") 19 parser.add_option("-t", "--output-format", metavar="FORMAT", 20 help="format to use for dumping items with -o") 21 22 def process_options(self, args, opts): 23 ScrapyCommand.process_options(self, args, opts) 24 try: 25 opts.spargs = arglist_to_dict(opts.spargs) 26 except ValueError: 27 raise UsageError("Invalid -a value, use -a NAME=VALUE", print_help=False) 28 if opts.output: 29 if opts.output == '-': 30 self.settings.set('FEED_URI', 'stdout:', priority='cmdline') 31 else: 32 self.settings.set('FEED_URI', opts.output, priority='cmdline') 33 feed_exporters = without_none_values( 34 self.settings.getwithbase('FEED_EXPORTERS')) 35 valid_output_formats = feed_exporters.keys() 36 if not opts.output_format: 37 opts.output_format = os.path.splitext(opts.output)[1].replace(".", "") 38 if opts.output_format not in valid_output_formats: 39 raise UsageError("Unrecognized output format '%s', set one" 40 " using the '-t' switch or as a file extension" 41 " from the supported list %s" % (opts.output_format, 42 tuple(valid_output_formats))) 43 self.settings.set('FEED_FORMAT', opts.output_format, priority='cmdline') 44 45 def run(self, args, opts): 46 #获取爬虫列表 47 spd_loader_list=self.crawler_process.spider_loader.list()#获取所有的爬虫文件。 48 print(spd_loader_list) 49 #遍历各爬虫 50 for spname in spd_loader_list or args: 51 self.crawler_process.crawl(spname, **opts.spargs) 52 print ('此时启动的爬虫为:'+spname) 53 self.crawler_process.start()
b、还得在里面加个_init_.py文件
c、到这里还没完,settings.py配置文件还需要加一条。
COMMANDS_MODULE = ‘项目名称.目录名称’
COMMANDS_MODULE = 'ds1.commands'
d、最后启动crawlall即可!
当然,安全起见,可以先在命令行中进入该项目所在目录,并输入scrapy -h,可以查看是否有命令crawlall 。如果有,那就成功了,可以启动了
我是写了个启动文件,放在第一级即可
要不直接在命令台cmd里输入 scrapy crawlall 就行了
##注意的是,爬虫好像是2个同时运行,而且运行时是交叉的?
还有settings里的文件,只针对其中一个?
摘自:https://blog.csdn.net/qq_38282706/article/details/80977576
原文地址:https://www.cnblogs.com/luoluosha/p/12936068.html
- 像 React Native 开发 APP 一样,用wn-cli 开发 weapp (微信小程序)
- 正则表达式快速入门
- JavaScript之<script>标签简介
- 数控机床数控系统选择4大关键要素
- Python快速入门
- Jquer学习之jQuery(function(){})与(function(){})(jQuery)之间的区别
- 服务端常见性能隐患分享
- ExtJs学习笔记(19)_复杂Form示例
- Linux快速入门01-基础概念
- SQL学习之Insert的特殊用法(插入检索出的数据,表之间的数据复制)
- 对php多态的理解
- JavaScript值延迟脚本和异步脚本
- JavaScript之arguments.callee
- JavaScript之面向对象学九(原型式继承和寄生式继承)
- JavaScript 教程
- JavaScript 编辑工具
- JavaScript 与HTML
- JavaScript 与Java
- JavaScript 数据结构
- JavaScript 基本数据类型
- JavaScript 特殊数据类型
- JavaScript 运算符
- JavaScript typeof 运算符
- JavaScript 表达式
- JavaScript 类型转换
- JavaScript 基本语法
- JavaScript 注释
- Javascript 基本处理流程
- Javascript 选择结构
- Javascript if 语句
- Javascript if 语句的嵌套
- Javascript switch 语句
- Javascript 循环结构
- Javascript 循环结构实例
- Javascript 跳转语句
- Javascript 控制语句总结
- Javascript 函数介绍
- Javascript 函数的定义
- Javascript 函数调用
- Javascript 几种特殊的函数
- JavaScript 内置函数简介
- Javascript eval() 函数
- Javascript isFinite() 函数
- Javascript isNaN() 函数
- parseInt() 与 parseFloat()
- escape() 与 unescape()
- Javascript 字符串介绍
- Javascript length属性
- javascript 字符串函数
- Javascript 日期对象简介
- Javascript 日期对象用途
- Date 对象属性和方法
- Javascript 数组是什么
- Javascript 创建数组
- Javascript 数组赋值与取值
- Javascript 数组属性和方法
- 《剑指 offer》刷题记录之:动态规划与贪婪算法
- MySQL使用distinct去掉查询结果重复的记录
- R语言基于协方差的结构方程拟合的卡方检验
- 复制表
- R语言中小样本违反异方差性的线性回归
- 《剑指 offer》刷题记录之:位运算
- tf.train.batch 的偶尔乱序问题
- R语言中的生存分析Survival analysis晚期肺癌患者4例
- R语言异方差回归模型建模:用误差方差解释异方差
- R语言使用二元回归将序数数据建模为多元GLM
- PHP中的SESSION机制应用
- PHP中没用的验证码
- PHP中一些可用的方法
- PHP中Header函数和PHP_AUTH_USER做用户验证
- PHP面向对象基础总结