请问:
我在 Pipelines 的__init__中设置了一个变量 AAA,代码里写着:
if len(AAA)> 500:
汇总写入一次数据;
AAA= []
请问:最后程序结束的时候,如果 AAA 不足 500,如何收尾。
我在 Pipelines 的__init__中设置了一个变量 AAA,代码里写着:
if len(AAA)> 500:
汇总写入一次数据;
AAA= []
请问:最后程序结束的时候,如果 AAA 不足 500,如何收尾。
1
bazingaterry Jul 4, 2017 via iPhone
结束的时候还有一个函数(一时之间想不起名字
|
2
ldbC5uTBj11yaeh5 Jul 4, 2017
判断一下当前时间,超过上次记录时间比如 1 分钟的话,即使不足 500 条也写入。算是最简单的 workaround 了。
|
3
sikariba Jul 4, 2017
就用一楼的那个,收尾的时候再写一次。closed 函数。
https://docs.scrapy.org/en/latest/topics/spiders.html#scrapy.spiders.Spider.closed |
4
naomhan Jul 4, 2017 pipline 里有个 close_spider 可以在这里导出
|
5
1O Jul 4, 2017
都是🐸,你看你都丑成啥样了。
|
6
360safe OP 谢谢大家,明白了,都怪自己没有细看官方文档。谢谢大家,学习成长了。
|