Meta 公布 audio2photoreal AI 框架，输入配音文件即可生成人物对话场景

据品玩报道，Meta 近日公布了一项名为 audio2photoreal 的 AI 框架，该框架能够生成一系列逼真的 NPC 人物模型，并借助现有配音文件自动为人物模型“对口型”“摆动作”。 官方研究报告指出，Audio2 photoreal 框架在接收到配音文件后，首先会生成一系列 NPC 模型，之后利用量化技术及扩散算法生成模型用动作，其中量化技术为框架提供动作样本参考、扩散算法用于改善框架生成的人物动作效果。 对照实验中有 43% 的评估者对框架生成的人物对话场景感到“强烈满意”，因此研究人员认为 Audio2 photoreal 框架相对于业界竞品能够生成“更具动态和表现力”的动作。据悉，研究团队目前已经在 GitHub 公开了相关代码和数据集。