Sora是什么? Sora用来做什么?
Creating video from text(从文本创建视频)
Sora is an AI model that can create realistic and imaginative scenes from text instructions.(Sora 是一个 AI 模型,可以根据文本指令创建现实且富有想象力的场景)
官方介绍
Sora 是一种扩散模型,它从看起来像静态噪声的视频开始生成视频,然后通过多个步骤消除噪声来逐渐对其进行转换。
Sora 能够一次生成整个视频或扩展生成的视频以使其更长。通过一次为模型提供多个帧的预见,我们解决了一个具有挑战性的问题,即确保主题即使暂时离开视野也保持不变。
与 GPT 模型类似,Sora 使用Transformer架构,释放出卓越的扩展性能。
我们将视频和图像表示为称为补丁的较小数据单元的集合,每个补丁类似于 GPT 中的令牌。通过统一我们表示数据的方式,我们可以在比以前更广泛的视觉数据上训练扩散变换器,涵盖不同的持续时间、分辨率和纵横比。
Sora 建立在过去对 DALL·E 和 GPT 模型的研究之上。它使用 DALL·E 3 的重述技术,该技术涉及为视觉训练数据生成高度描述性的标题。因此,该模型能够更忠实地遵循生成视频中用户的文本指令。
除了能够仅根据文本指令生成视频之外,该模型还能够获取现有的静态图像并从中生成视频,准确地动画图像的内容并关注小细节。该模型还可以获取现有视频并对其进行扩展或填充缺失的帧。请参阅我们的技术报告了解更多信息。
Sora 是能够理解和模拟现实世界的模型的基础,我们相信这一功能将成为实现 AGI 的重要里程碑。
根据官网给出的批量视频来看,整个技术的进度:
从文字类输入的智能输出文字答复-->到文字输入图形-->再到Sora的文字到视频.
可理解为:在"所见即所得"过程中,视觉听觉的感官效应进一步升级。由静到动的过程,由型到神的不断完善。
评论区