[求助] Python Celery 要求发送几千到上万份邮件，有什么好的实践吗

V2EX = way to explore

V2EX 是一个关于分享和探索的地方

现在注册

已注册用户请登录

V2EX 提问指南

这是一个创建于 1214 天前的主题，其中的信息可能已经有所发展或是发生改变。

如题，业务需要一下子发送几千到上万份邮件，主要担心 celery 把内存打爆，或者发送过程中遭遇网络问题等，重试问题，请问各位有什么好的实践吗？

目前打算用 group 加 skew 给每个任务依次延时，感觉发送周期可能又太长了

9 条回复 • 2021-08-23 11:58:07 +08:00

defunct9

2021-07-20 12:46:39 +08:00

不是该用 postfix 么，celery 扔到 postfix 就完事了

tulongtou

2021-07-20 12:47:56 +08:00 via iPhone

不会，没封右键作为一个任务，扔到队列里面，worker 一个一个去跑就完事了。一万封的话几个小时就发完

DeWjjj

2021-07-20 12:49:21 +08:00

这是注册邮件吧，就直接写个队列执行就好了。
实际上不会像楼上说的几个小时，因为你的业务不是均匀持续的。

opengo

2021-07-20 13:54:14 +08:00

@DeWjjj 业务是这样的，导入几千到数万条优惠券，每条优惠券都发给不同的邮箱，所以一下子任务堆积的比较多，想吸取一下各位 retry 时异常处理的经验

opengo

2021-07-20 13:55:43 +08:00

@defunct9 目前用的还是 django 自带的发送组件，我了解一下这个

rev1si0n

2021-07-20 15:58:57 +08:00

你这什么任务内容 1 万个就爆内存了... 内存这东西又不贵，只管上

rev1si0n

2021-07-20 16:00:07 +08:00

还有我比较好奇的是你是通过第三方发邮件的？现在的服务器发送邮件不都是很严格的嘛

julyclyde

2021-07-22 13:46:33 +08:00

并不需要 celery 啊
让邮件服务器处理异步问题。你只需要快速把邮件交给服务器即可

opengo

2021-08-23 11:58:07 +08:00

@rev1si0n 这点内存倒是不会爆...主要是内存较小，考虑 stmp 服务器不稳定等极端情况下，这个帖子主要目的想了解下大量重试失败任务，处理起来有没有什么需要注意的地方

发邮件最后按 celery 负载包装了几个 chunk，然后开了 celery 自动缩放让它自己玩去了