MVPaint是腾讯PCG 、上海AI LAB、南洋理工大学S-Lab、清华大学共同推出的3D纹理生成框架,基于同步多视角扩散技术实现高分辨率、无缝且多视图一致的3D纹理生成。MVPaint包含三个核心模块:同步多视角生成(SMG)用在初始化纹理,空间感知3D修补(S3I)用在填补未观察区域,及UV细化(UVR)用在改善UV空间纹理质量。MVPaint显著提升3D模型的纹理生成效果,减少局部不连续性和多视图不一致的问题。
MVPaint的主要功能同步多视角生成:同时生成多个视角的图像,为3D模型提供初步的纹理。空间感知3D修补:专门设计纹理化在多视角生成中未被观察到的区域,确保3D模型的完整纹理覆盖。UV细化(UV Refinement, UVR):包括UV空间的超分辨率处理和空间感知缝合平滑算法,改善UV展开后的纹理质量,修正因UV展开造成的不连续性。多视图一致性:MVPaint强调在不同视角下生成的纹理保持一致性,减少因视角变化产生的不一致问题。高分辨率纹理生成:生成高分辨率且无缝的纹理,提升3D模型的视觉质量。MVPaint的技术原理控制基多视角模型(Control-based T2MV Model):用一个控制基模型从文本描述生成多视角图像,是同步多视角生成(SMG)的一部分。图像到图像模型(Image-to-Image Model, I2I):与控制基多视角模型一起,I2I模型用在3D纹理的初始化。3D点云修补:在UV空间中,基于3D点云修补技术填补未观察到的区域,是空间感知3D修补(S3I)的核心。UV空间超分辨率:在UVR模块中,对UV图进行超分辨率处理,增加纹理的细节。空间感知缝合平滑:在UV空间中,MVPaint检测接缝并应用3D感知平滑算法,修正因UV展开造成的纹理不连续性。多视角一致性保持:在整个纹理生成过程中,MVPaint基于同步多视角生成和后续处理步骤,确保在不同视角下纹理的一致性。MVPaint的项目地址项目官网:mvpaint.github.ioGitHub仓库:https://github.com/3DTopia/MVPaintarXiv技术论文:https://arxiv.org/pdf/2411.02336MVPaint的应用场景游戏开发:在游戏中,为游戏角色、环境和物品生成高质量的纹理,提升游戏的整体视觉体验。动画制作:动画制作生成一致且高分辨率的纹理,帮助动画师节省时间并提高工作效率。虚拟现实(VR)和增强现实(AR):在VR和AR应用中,为虚拟环境中的对象提供高质量的纹理,增强用户的沉浸感。建筑可视化:在建筑设计和可视化中,为建筑模型生成真实的材质和纹理,帮助客户更好地理解设计意图。产品设计:在产品设计阶段,M提供多样化的纹理选择,帮助设计师在展示产品时提供更具吸引力的视觉效果。
上一篇