火星网校
谷歌AI视频生成新系统：从首尾帧图像轻松生成完整视频
发布时间：2024-07-22 19:25:52 浏览量：179次
【新智元导读】谷歌研究人员利用3D卷积网络打造视频生成新系统，只需要视频的第一帧和最后一帧，就能生成完整合理的整段视频，是不是很神奇？
漫画书秒变动画片了解一下？
想象一下，现在你的手中有一段视频的第一帧和最后一帧图像，让你负责把中间的图像填进去，生成完整的视频，从现有的有限信息中推断出整个视频。你能做到吗？
这可能听起来像是一项不可能完成的任务，但谷歌人工智能研究部门的研究人员已经开发出一种新系统，可以由视频第一帧和最后一帧生成“似是而非的”视频序列，这个过程被称为“inbetween”。
“想象一下，如果我们能够教一个智能系统来将漫画自动变成动画，会是什么样子？如果真实现了这一点，无疑将彻底改变动画产业。“该论文的共同作者写道。“虽然这种极其节省劳动力的能力仍然超出目前最先进的水平，但计算机视觉和机器学习技术的进步正在使这个目标的实现越来越接近。”
原理与模型结构
这套AI系统包括一个完全卷积模型，这是是受动物视觉皮层启发打造的深度神经网络，最常用于分析视觉图像。它由三个部分组成：2D卷积图像解码器，3D卷积潜在表示生成器，以及视频生成器。
图1：视频生成模型示意图
图像解码器将来自目标视频的帧映射到潜在空间，潜在表示生成器学习对包含在输入帧中的信息进行合并。最后，视频生成器将潜在表示解码为视频中的帧。
研究人员表示，将潜在表示生成与视频解码分离对于成功实现中间视频至关重要，直接用开始帧和结束帧的编码表示生成视频的结果很差。为了解决这个问题，研究人员设计了潜在表示生成器，对帧的表示进行融合，并逐步增加生成视频的分辨率。
图2：模型生成的视频帧序列图，对于每个数据集上方的图表示模型生成的序列，下方为原视频，其中首帧和尾帧用于生成模型的采样。
实验结果
为了验证该方法，研究人员从三个数据集中获取视频，并将这些数据下采样至64 x 64像素的分辨率。每个样本总共包含16帧，其中的14帧由AI系统负责生成。
研究人员为每对视频帧运行100次模型，并对每个模型变量和数据集重复10次，在英伟达Tesla V100显卡平台上的训练时间约为5天。结果如下表所示：
表1：我们报告了完整模型和两个基线的平均FVD，对每个模型和数据集重复10次，每次运行100个epoch，表中FVD值越低，表示对应生成视频的质量越高。
表2：使用直接3D卷积和基于的替代方法的模型的平均SSIM
RNN（SDVI）或光流（SepConv和SuperSloMo），数值越高越好。
研究人员表示，AI生成的视频帧序列在风格上与给定的起始帧和结束帧保持一致，而且看上去说得通。“令人惊喜的是，这种方法可以在如此长的时间段内实现视频生成，”该团队表示，“这可能给未来的视频生成技术研究提供了一个有用的替代视角。”
参考链接：
https://venturebeat.com/2019/05/28/googles-ai-can-create-videos-from-start-and-end-frames-alone/
论文链接：
https://arxiv.org/pdf/1905.10240.pdf
想要了解更多关于视频生成和人工智能的内容？欢迎点击咨询，了解火星时代教育的AI绘画培训课程。
热门课程推荐
热门资讯
-
想将照片变成漫画效果？这篇文章分享了4个方法，包括Photoshop、聪明灵犀、VanceAI Toongineer、醒图，简单操作就能实现，快来尝试一下吧！
-
2. 华为手机神奇“AI修图”功能，一键消除衣服！原图变身大V领深V！
最近华为手机Pura70推出的“AI修图”功能引发热议，通过简单操作可以让照片中的人物换装。想了解更多这款神奇功能的使用方法吗？点击查看！
-
近年来,人工智能逐渐走入公众视野,其中的AI图像生成技术尤为引人注目。只需在特定软件中输入关键词描述语以及上传参考图就能智能高效生成符合要求的...
-
4. AI视频制作神器Viggle：让静态人物动起来，创意无限！
Viggle AI是一款免费制作视频的AI工具，能让静态人物图片动起来，快来了解Viggle AI的功能和优势吧！
-
5. Logo Diffusion——基于sd绘画模型的AI LOGO 生成器
这下LOGO设计彻底不用求人了。接下来详细演示一遍操作流程首先进入Logo D... 想学习更多AI技能,比如说关于怎么样利用AI来提高生产效率、还能做什么AI...
-
6. 零基础10分钟生成漫画，教大家如何用AI生成自己的漫画
接下来,我将亲自引导你,使用AI工具,创作一本既有趣又能带来盈利的漫画。我们将一起探索如何利用这个工具,发挥你的创意,制作出令人惊叹的漫画作品。让...
-
7. AI显卡绘画排行榜:4090无悬念，最具性价比出人意料
在AI绘图领域，Stable Diffusion的显卡绘图性能备受关注。本文整理了Stable Diffusion显卡的硬件要求和性能表现，以及2023年3月显卡AI绘图效率排行榜和性价比排行榜。欢迎查看最新的AI显卡算力排行榜。
-
以下是一些免费的AI视频制作网站或工具,帮助您制作各种类型的视频。 1. Lumen5:Lumen5是一个基于AI的视频制作工具,可将文本转换为视频。 用户可以使...
-
就能快速生成一幅极具艺术效果的作品,让现实中不懂绘画的人也能参与其中创作!真的超赞哒~趣趣分享几款超厉害的AI绘画软件,提供详细操作!有需要的快来...
-
10. 10个建筑AI工具，从设计到施工全覆盖!肯定有你从来没听过的
讲述了建筑业比较著名的AI公司小库科技做出的探索,在这儿就不多说了。今天,我们试着在规划设计、建筑方案设计、住宅设计、管道设计、出渲染图、3D扫...
最新文章
