多智能体医疗会诊系统

​

1. 论坛背景与嘉宾介绍
   • 论坛聚焦大模型技术对多智能体系统研究的推动作用，强调多智能体协同在复杂问题解决中的关键作用。
   • 介绍到场嘉宾包括CCF专委会主任梁吉业教授、南京大学高阳教授等，由团队骨干代表出席。
2. 医疗会诊智能体研究
   • 高阳教授团队承担了"医疗会诊智能体自主式学习"国家重大项目，针对医疗数据稀缺、场景动态性强等特点展开研究。
   • 提出MD-tMGPT框架，通过专科智能体分诊、多轮投票决策、经验库反馈等机制实现系统优化，性能提升约10%。
   • 系统整合影像模态数据与工具调用功能，在肺结节病诊断案例中验证了多模态融合的必要性。
3. 技术挑战与安全机制
   • 揭示大模型在医疗垂直领域的三大缺陷：错误输出泛滥、多模态处理不足、备案审查困难。
   • 构建AE指令数据集模拟攻击场景，发现分布式架构抗攻击能力最强，集中式架构最脆弱。
   • 提出"黑暗人格"隔离机制，通过心理量评估识别异常智能体，有效防御系统级联崩溃。
4. 未来研究方向
   • 需建立多智能体系统理论分析框架，包括架构性能评估、记忆体系优化等基础问题。
   • 亟待完善可靠性评估标准，构建覆盖攻击防御全流程的安全验证体系。
   • 探索智能体在智慧城市、应急管理等更广泛场景的应用可能性。