北大 UCLA 推出 ROCKET-2,AI 助力 3D 游戏零样本迁移
ROCKET-2 是由 CraftJarvis 团队推出的跨视图目标对齐的视觉运动控制框架,专注于解决机器人领域中的复杂任务控制问题。该模型仅在 Minecraft 上进行预训练,便能零样本迁移至多个 3D 游戏环境,如毁灭战士、DeepMind Lab 甚至虚幻 5 引擎。这意味着 AI 不仅能在 Minecraft 里能打怪、建房、探险,现在甚至能跳跨进另一个游戏世界并且直接上手操作!
教程链接:https://go.openbayes.com/JBjLt
使用云平台:OpenBayes
http://openbayes.com/console/signup?r=sony_0m6v
登录 OpenBayes.com,在「公共教程」页面,选择一键部署 「ROCKET-2:3D 游戏零样本迁移」教程。

页面跳转后,点击右上角「克隆」,将该教程克隆至自己的容器中。

在当前页面中看到的算力资源均可以在平台一键选择使用。平台会默认选配好原教程所使用的算力资源、镜像版本,不需要再进行手动选择。点击「继续执行」,等待分配资源。


待系统分配好资源,当状态变为「运行中」后,点击「API 地址」边上的跳转箭头,即可跳转至 Demo 页面。

1.进入网页后,点击「Tutorial」可查看教程指南。

2.然后进入「Customize Environment」选择你要加载的环境。选择好之后点击「Load」加载。


3.之后进入「Launch Rocket」点击「Reset」加载环境。

4.加载环境完成后,进入「Specify Goal」选择目标点位和交互方式。

5.选择好之后,再次回到「Launch Rocket」,点击下方的「Setting Panel」选择模型,然后点击「Set」设置。

6.设置完成后,进入「Control Panel」设置推理步骤并进行推理。

7.最后,将步骤 4-6 重复执行,直至推理过程完成。推理完成后即可进入「Record Video」模式创建并下载视频。

