CA翻译~
1.介绍
电影级解剖学 (Cinematic Anatomy, CA) 是一款沉浸式解剖学学习应用,旨在通过使用路径追踪 [CEGM16] 实现照片级真实感的 3D 渲染,以改进解剖学教育。它并非使用真实的 3D 解剖模型,而是利用医疗扫描设备提供的体积数据。该应用用于解剖学教育领域,例如在 JKU medSPACE [JKU](一个用于解剖学教学的讲演空间)中使用。它用于教授多样且复杂的个体人体解剖结构、解剖变异和病理学,通过真实患者数据的沉浸式照片级真实感 3D 可视化来增强学习者的能力。多项研究已证明使用临床体积数据进行照片级真实感体积渲染在解剖学教学和理解方面的益处 [GES∗18, BKE∗19, SWS∗22]。
除了用于集体面授的立体投影模式外,学生还需要在他们的移动设备上运行 CA 以获得个性化学习体验。然而,除了在此类设备上显著的性能损失外,所创建内容的可移植性常常受到数据大小的限制,尤其是在使用来自高分辨率成像模态(如光子计数 CT、7 特斯拉 MRI 和相位对比 CT [WTW∗21])的数据时。因此,CA 主要用于面授教学场景,其中演示者使用强大的 GPU 并能高速访问存储数据集的超大容量存储设备。如图 1 所示,即便如此,也难以以交互速率渲染数据。
我们证明了可微分的 3DGS [KKLD23] 能够解决 CA 的局限性。3DGS 从场景的图像中重建出 3D 高斯场景表示。高斯表示可以从任意视角高速渲染,避免了耗时的路径追踪。结合压缩的 3DGS [NSW24],高斯表示的内存消耗显著降低,并且借助 GPU 光栅化,3D 高斯溅射即使在移动设备上也能高效运行。图 1 使用一个高分辨率 CT 扫描数据展示了这些特性。
贡献: 为了将压缩的 3DGS 用于 CA,我们提出了一个处理流程,包含以下改进:
-
我们扩展了 Kopanas 和 Drettakis [KD23] 提出的用于体积渲染的视角选择方法,使其能自动找到一组在当前传递函数设置下捕获所有潜在可见结构的相机。
-
我们扩展了 3DGS,使其支持可微分的 Alpha 通道渲染,以创建无背景的重建结果,并显著改善半透明物质的重建质量。
我们使用多个高分辨率数据集分析了其质量、性能和内存需求。训练图像使用一个公开可用的 CA 工具渲染。结果表明,其内存需求显著低于初始数据大小。由于可渲染表示非常小,学生可以通过低带宽通道快速下载并在其移动设备上渲染。渲染性能比优化的路径追踪快约两个数量级,且图像质量几乎无可察觉的损失。
局限性: 将 3DGS 用于 CA 存在以下局限性:首先,光照条件被烘焙到 3D 高斯表示中,在渲染时无法更改。其次,由于使用了预设的传递函数和裁剪平面,该方法在支持交互式体积探索方面效果较差。克服这些局限性是困难的,我们在工作结束时讨