WAIC首日 | RWKV-7s 新型高效大模型架构正式亮相
7月26日,RWKV 携全球领先的大模型架构 RWKV-7 亮相 2025 世界人工智能大会暨人工智能全球治理高级别会议(以下简称 “ WAIC 2025”),并首次公开了 RWKV-7s 架构。元始智能作为企业代表向国务院总理李强、上海市委书记陈吉宁介绍 RWKV 架构、生态和产业化近况。
RWKV 系列是全球领先的 RNN 大模型架构。其中 RWKV-7 在 RNN 架构中效率和效果世界领先。在大会首日,我们 公开了系列首个混合架构 —— RWKV-7s。
RWKV-7s 是承接 RWKV-7 优势的 RNN + DEA(独创的 DeepEmbedAttention)新型高效大模型架构,KV cache 仅为 MLA 的 1/9 大小,兼具高效计算与强长文本性能,可适配多模态、智能体等多种应用场景。
在了解 RWKV 架构作为底层技术的创新性及可为人工智能行业带来的新机遇后,李强总理给予了宝贵的指导意见,并鼓励更多 AI 从业者关注底层技术,解决更多的基础问题。
最后预告,纯 RNN 的 RWKV7-G0 7B 已经可以解决一些 AIME(美国数学竞赛)题,我们稍后会发布详细测试结果。
不仅如此,修改后的题目也能做对(将原题的 3(n+3) 修改为 2(n+3)):
WAIC 展览还有三天,欢迎大家在 7 月 27 日至 29 日亲临 RWKV 展位,与我们共同探讨人工智能行业发展的更多可能!
地点:上海世博展览馆
主展位:1 楼中庭,H2-2 门前
展位一:H3-D701
展位二:H4-FT305