Mora: Enabling Generalist Video Generation via A Multi-Agent Framework

本文是LLM系列文章，针对《Mora: Enabling Generalist Video Generation via A Multi-Agent Framework》的翻译。

摘要

Sora是第一个引起社会广泛关注的大规模通用视频生成模型。自2024年2月由OpenAI推出以来，没有其他视频生成模型能与Sora的性能或支持广泛视频生成任务的能力相媲美。此外，只有少数完全发布的视频生成模型，大多数是闭源的。为了解决这一差距，本文提出了一个新的多智能体框架Mora，该框架结合了几个先进的视觉AI代理来复制Sora演示的通用视频生成。特别地，Mora可以利用多个视觉代理，并在各种任务中成功地模仿Sora的视频生成能力，例如（1）文本到视频生成，（2）文本条件图像到视频生成、（3）扩展生成的视频、（4）视频到视频编辑、（5）连接视频和（6）模拟数字世界。我们广泛的实验结果表明，Mora在各种任务中的性能接近Sora。然而，从整体上评估，我们的工作与索拉之间存在明显的性能差距。总之，我们希望这个项目能够通过协同人工智能代理来指导视频生成的未来轨迹。

1 引言

2 相关工作

3 Mora:一种用于视频生成的多Agent框架

4 实验

5 讨论

6 结论

我们介绍了Mora，这是一个开创性的视频生成通用框架，可解决一系列与视频相关的任务。利用多个代理的协作能力，Mora标志着在从文本提示生成视频方面取得了相当大的进步，为视频生成领域的适应性、效率和输出质量建立了新的基准。我们的全面评估表明，Mora不仅在某些领域与当前领先模型