用配音生成人物对话场景，Meta 推出 audio2photoreal AI 框架

IT之家 1 月 9 日消息，Meta 日前公布了一项名为 audio2photoreal 的 AI 框架，该框架能够生成一系列逼真的 NPC 人物模型，并借助现有配音文件自动为人物模型“对口型”“摆动作”。

▲ 图源 Meta 研究报告（下同）

IT之家从官方研究报告中得知，Audio2photoreal 框架在接收到配音文件后，首先生成一系列 NPC 模型，之后利用量化技术及扩散算法生成模型用动作，其中量化技术为框架提供动作样本参考、扩散算法用于改善框架生成的人物动作效果。

研究人员提到，该框架可以生成 30 FPS 的“高质量动作样本”，还能模拟人类在对话中“手指点物”、“转手腕”或“耸肩”等不由自主的“习惯性动作”。

研究人员援引自家实验结果，在对照实验中有 43% 的评估者对框架生成的人物对话场景感到“强烈满意”，因此研究人员认为 Audio2photoreal 框架相对于业界竞品能够生成“更具动态和表现力”的动作。