当前位置: 首页 > news >正文

Django+Celery 进阶:Celery可视化监控与排错

文章目录

    • 一、Celery 命令行工具
    • 二、Celery 图形监控
      • Celery Flower 图形监控
      • 基本使用
      • 与Django项目集成
    • 三、Redis 图形监控
    • 四、Celery 排错
      • PermissionError权限错误
      • AppRegistryNotReady 错误
      • 任务参数
      • 时区


一、Celery 命令行工具

Celery 命令行工具可用去查看Celery的运行状态。打开一个终端窗口,进入项目目录(与manage.py同级),运行以下命令

  • 列出集群中在线的Celery Worker节点
celery -A mysite status### 大概10秒后,输出结果
->  celery@DESKTOP-MHHVBI3: OK1 node online.
  • 列出正在执行的Celery 任务
celery -A mysite inspect active### 输出结果
->  celery@DESKTOP-MHHVBI3: OK- empty -1 node online.
  • 列出已注册的Celery 任务
celery -A mysite inspect registered### 输出结果示例
->  celery@DESKTOP-MHHVBI3: OK* myapp_infra.tasks.cleanup_expired_data* myapp_infra.tasks.send_daily_report* myapp_system.tasks.login_log_task* myapp_system.tasks.operation_log_task* myapp_system.tasks.send_single_mail_task1 node online.
  • 显示Celery 统计数据
celery -A mysite inspect stats ### 输出结果示例
->  celery@DESKTOP-MHHVBI3: OK{"broker": {"alternates": [],"connect_timeout": 4,"failover_strategy": "round-robin","heartbeat": 0,"hostname": "127.0.0.1","insist": false,"login_method": null,"port": 6379,"ssl": false,"transport": "redis","transport_options": {},"uri_prefix": null,"userid": null,"virtual_host": "3"},"clock": "543","pid": 2316,"pool": {"implementation": "celery.concurrency.solo:TaskPool","max-concurrency": 1,"max-tasks-per-child": null,"processes": [2316],"put-guarded-by-semaphore": true,"timeouts": []},"prefetch_count": 32,"rusage": "N/A","total": {"myapp_infra.tasks.cleanup_expired_data": 3,"myapp_system.tasks.login_log_task": 36},"uptime": 541}1 node online.

小结:

  • 以上命令支持 --timeout参数,例如在命令后加上--timeout 3
  • 参考资料:Celery 监控

二、Celery 图形监控

Celery Flower 图形监控

Celery Flower 是一个用于监控和管理 Celery 任务的开源 Web 应用程序,它提供了实时的任务状态监控、任务执行图表、工作者信息、任务追踪和任务日志等功能。

安装

pip install flower

基本使用

Celery Flower 服务启动命令:进入根目录(包含manage.py文件的目录)执行

celery -A mysite flower --port=5555

访问 http://<IP>:5555 查看Celery 图形监控

  • 点击 Workers 查看 Celery Worker 状态

在这里插入图片描述

  • 点击 Tasks 查看当前及后来的任务(不会显示以前的任务)。另外,通过观察任务列表的变化,判断 Celery Beat 的状态是否正常。

在这里插入图片描述

  • 点击 Broker 查看 Redis 状态

在这里插入图片描述

与Django项目集成

对于Django+Vue3的前后端分离项目,使用iframe(内联框架) HTML 元素,可将网页嵌入其他网页。实现将Celery Flower 集成到Django项目中。

外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传

点击查看集成代码

三、Redis 图形监控

Redis一般作为Celery的消息中间件 (Broker),负责接收任务生产者发送的消息并将任务存入队列。

安装工具:Another Redis Desktop Manager,是一个Redis的图形管理界面工具。下载地址
在这里插入图片描述

解压即可使用。连接Redis 服务器后,查看celery队列中的任务数。

  • 如果没有celery键,表示当前没有等待的Celery任务

在这里插入图片描述

四、Celery 排错

PermissionError权限错误

错误信息

[2025-04-12 22:53:48,435: INFO/MainProcess] Task tasks.add[6d0cc2d2-0a84-4a4d-b5e7-e86a4bd9b625] received
[2025-04-12 22:53:48,436: ERROR/SpawnPoolWorker-6] Pool process <billiard.pool.Worker object at 0x0000027D686A33D0> error: PermissionError(13, '拒绝访问。', None, 5, None)
Traceback (most recent call last):

解决方法

# 在Windows系统中,prefork 多进程模式可能导致权限冲突。改用单进程模式启动--pool=solo 
celery -A tasks worker --loglevel=INFO --pool=solo 

AppRegistryNotReady 错误

错误信息

2025-05-17 18:33:13,886 INFO D:\workspace_python\mars-mgn\mysite\myapp_system\tasks.py changed, reloading.
Traceback (most recent call last):
...File "D:\workspace_python\mars-mgn\venv\Lib\site-packages\django\apps\registry.py", line 138, in check_apps_readyraise AppRegistryNotReady("Apps aren't loaded yet.")
django.core.exceptions.AppRegistryNotReady: Apps aren't loaded yet.

原因及解决方法

  • 分析:Celery初始化与Django启动顺序问题:在celery.py中通过app.autodiscover_tasks()自动发现任务时,可能过早加载包含Django模型的任务模块,而Django的INSTALLED_APPS尚未完全初始化
  • 避免在任务模块顶部直接导入Django模型。将模型导入操作移至任务函数内部
# myapp_system/tasks.py
from celery import shared_task
from django.core.mail import send_mail@shared_task
def send_email_task(subject, message, from_email, recipient_list):# 导入操作移至任务函数内部:延迟导入模型和序列化器from .mail_log.serializers import MailLogSaveSerializerfrom .models import SystemMailLog# 发送邮件逻辑send_mail(subject, message, from_email, recipient_list)return "邮件发送成功"

任务参数

错误信息

celery.beat.SchedulingError: Couldn't apply scheduled task daily_cleanup_expired_data: cleanup_expired_data() takes 0 positional arguments but 1 was given

解决方法

  • 分析:args 和 kwargs 参数是传递给任务。若定义任务时没有定义接收参数,但却传递了arsg或kwargs参数,则Celery Beat 会报错
  • 修改任务定义的代码,然后重启Celery worker和 beat。

时区

建议使用统一的时区,例如全部统一为东八区

  • settings.py 中明确配置
# 设置 Django 时区
TIME_ZONE = 'Asia/Shanghai'
USE_TZ = True# 配置 Celery 时区
CELERY_TIMEZONE = 'Asia/Shanghai'# MySQL数据库连接字符串中添加时区参数
DATABASES = {"default": {"ENGINE": "django.db.backends.mysql",# ..."OPTIONS": {"init_command": "SET time_zone='+08:00'"},}
}
  • Celery Worker 所在服务器系统时区为
# 查看系统时区
timedatectl | grep "Time zone"
# 设置时区
timedatectl set-timezone Asia/Shanghai

您正在阅读的是《Django从入门到实战》专栏!关注不迷路~

http://www.dtcms.com/a/282137.html

相关文章:

  • JobSet:Kubernetes 分布式任务编排的统一解决方案
  • flink sql读hive catalog数据,将string类型的时间戳数据排序后写入kafka,如何保障写入kafka的数据是有序的
  • 从零开始的云计算生活——番外4,使用 Keepalived 实现 MySQL 高可用
  • Django 接口自动化测试平台实现(一)
  • 蓝光三维扫描技术:汽车轮毂轴承模具检测的高效解决方案
  • 【tower】Rust tower库原理详解以及axum限流实战
  • 在新闻资讯 APP 底部切换不同类型界面,部分界面可以通过 ViewPager 实现滑动切换
  • 枫清科技参编的《人工智能知识工程指南(1.0)》发布
  • 压力测试Apache Bench(ab)
  • 从缓存 CAS 看Kimi K2使用的MuonClip优化器
  • 电力政策解读:山东电网新型储能集中调用的能源管理系统实现点
  • LinkedList集合源码解析
  • 超级天才如何批量制造?天才成长引擎模型:超级天才 = (学习速度泛化力 × 创造力 × 专注力) × 驱动力
  • python基础②-数据结构
  • AlpineLinux的用户管理
  • conda activate 时报错: CondaError: Run ‘conda init‘ before ‘conda activate‘
  • XC7A75T‑2FGG484I Xilinx Artix‑7 FPGA AMD
  • go项目实战
  • 深入解析Linux进程地址空间与虚拟内存管理
  • 虚拟内存管理--请求分页管理方式
  • 15.dispatcherRunner启动
  • 图机器学习(10)——监督学习中的图神经网络
  • LLM大语言模型不适合统计算数,可以让大模型根据数据自己建表、插入数据、编写查询sql统计
  • ether.js的calldata
  • 探索阿里云DMS:解锁高效数据管理新姿势
  • 【WRFDA数据教程第一期】LITTLE_R 格式详细介绍
  • 常用 Benchmark 总结-GPT 4.1、GPT 4.5、DeepSeek模型
  • 【游戏引擎之路】登神长阶(十七):Humanoid动画——长风破浪会有时,直挂云帆济沧海
  • 联网工人安全解决方案:技术赋能下的安全新范式
  • Django REST Framework 入门指南:从 0 到 1 实现 RESTful API