现在有一个 flask 项目,写了一个下任务的接口,下完任务需要调用第三方接口去做一个诊断服务,诊断完毕后会把结果推送到 redis 上,我需要订阅 redis 的 channel 来监控数据,所以我写了一个工具方法来监控这个 redis 的数据变化,监控到数据变化就持久化到 mysql,可是使用 gunicorn 来开四个进程跑 flask 服务的时候会同时写入 mysql 四条数据,总不能为了监控 redis 数据就只能使用一个进程来跑服务吧。
1
whl619969187 2018-11-16 11:39:19 +08:00
redis 的消息订阅是广播类型的,所有会造成重复消费;
可以用阻塞队列,起线程监听 或者用 kafka 吧这个支持同消费组一条消息只消费一次的 |
2
ingin OP @whl619969187 #1 redis 推送数据那个是第三方接口,所以我只能在我这边做改动
|
3
whusnoopy 2018-11-16 13:13:28 +08:00 via Android
单开一个监听 redis 的服务进程? gunicorn 的 web 不去管这事
或者用 celery 之类的做定时任务,一分钟去检查一次 redis,不要让 redis 自己推送 |
4
feverzsj 2018-11-16 13:15:44 +08:00
先进 mysql
|
6
whusnoopy 2018-11-16 17:40:20 +08:00
@ingin 项目还是可以是一个项目,代码在一块,只是部署时分开启一个 flask web app 和一个 celery app,另外如果需要维持 beat,还要给 celery 启一个 celery-beat
|
7
liwb2 2019-07-07 19:50:04 +08:00
实现一个外部锁,当 4 个进程取到消息之后,先取请求锁,取得锁的进程开始写 db。
|