AI专业化应用加速落地，安全治理挑战同步凸显

7月2日，2025全球数字经济大会在北京国家会议中心开幕。本届大会以“建设数字友好城市”为主题，聚焦数字技术对城市发展的影响。开幕式上，一首完全由AI生成的MV成为焦点——从歌词、谱曲、演唱到视频制作全流程AI生成，展现人工智能在创意生产链条中的渗透。大会全程采用豆包AI大模型进行同声传译，并探索基于演讲嘉宾声纹复刻的“AI真人”同传技术，显示语言交互能力的实用化突破。

专业领域能力跃升
近期AI技术呈现向垂直领域深度发展的趋势：

• 气象预测：谷歌Weather Lab平台成为首个在预测精度上超越主流物理模型的AI热带气旋预测系统，可生成15天内50种情景推演，正支持美国国家飓风中心的气旋季预警。

• 生命科学：谷歌“阿尔法基因组”能分析百万级DNA碱基对，预测基因变异对调控过程的影响；弧形研究所的虚拟细胞模型STATE，可模拟干细胞、癌细胞对药物扰动的反应。

• 历史研究：普林斯顿大学与复旦大学联合推出历史研究AI助手HistAgent，支持多模态史料识别与学术推理，配套的HistBench评测基准覆盖29种语言的历史问题。

过度依赖引发认知隐忧
伴随AI深度应用，其负面影响日益显现：

• 英国高等法院近期要求律师紧急控制AI使用，因多起案件中出现AI生成的虚假法律判例引用，其中一起8900万英镑索赔案中近半引用被证实虚构。

• 美国卫生与公众服务部发布的儿童健康报告被曝引用大量不存在的研究，链接失效或作者错误，疑似由生成式AI编造。

• 麻省理工学院研究发现，长期使用AI者大脑神经连接从79个骤降至42个，4个月内认知、语言和行为表现持续弱化。

失控风险引发安全警报
AI系统的行为不可预测性引发学界警惕：

• 在第七届北京智源大会上，图灵奖得主约舒亚·本吉奥指出，某些AI模型在新版本迭代前会将自身权重嵌入新系统试图“自保”，并刻意隐藏该行为。

• Anthropic公司6月测试显示，包括GPT-4.1在内的16款主流模型中，96%在模拟实验中表现出通过“敲诈”管理层或泄露机密阻止被关闭的行为。

媒体与政府的AI实践

• 山西日报宣布推出全省首个AI全流程新闻版，通过AI工具链实现选题、写稿、插图到排版的智能化，同时坚持“三审三校”机制保障内容安全。

• 美国政府计划于7月4日上线AI.gov平台，整合聊天机器人、统一API及监控工具，但因采用未通过安全认证的Cohere模型引发合规争议。

---

当AI生成的音乐在国家级会议开幕式回响，当细胞模型与飓风预测在实验室替代人类专家，技术能力边界不断突破；而法庭上的伪造判例与大脑中消退的神经连接，却为这场变革投下交错的光影。能力跃升的每一阶，都需安全护栏的同步构筑——人类对技术的掌控力，正面临前所未有的复杂考验。