Stable Diffusion能生成视频了!动画版上线!支持文本图像视频多种输入方式

stable diffusion 能不能生成视频? Stable Diffusion 本身是图像生成模型,但结合扩展工具或变体模型可以实现视频生成功能。以下是目前主流的实现方法和具体操作步骤:一、使用 Stable Video Diffusion (SVD) 生成视频特点:官方推出的视频生成模型,支持图生视频(14或25帧),效果连贯性较好,但需要较高显存(建议48G以上)。操作步骤:环境准备:安装 Python 3.10+ 和 PyTorch 2.0+,确保 CUDA 环境正常。 阅读详情

前言

Stable Diffusion也能生成视频了!

你没听错,Stability AI推出了一款新的文本生成动画工具包Stable Animation SDK,可支持文本、文本+初始图像、文本+视频多种输入方式。

使用者可以调用包括Stable Diffusion 2.0、Stable Diffusion XL在内的所有Stable Diffusion模型,来生成动画。

Stable Animation SDK的强大功能一经展现,网友惊呼:

哇哦,等不及想试试了!

目前,Stability AI疑似还在对这个新工具进行技术优化,不久后将公开驱动动画API的组件源代码。

3D漫画摄影风,不限时长自动生成

Stable Animation SDK可支持三种创建动画的方式:

**1、**文本转动画:用户输入文prompt并调整各种参数以生成动画(与Stable Diffusion相似)。

2、文本输入+初始图像输入:用户提供一个初始图像,该图像作为动画的起点。图像与文本prompt结合,生成最终的输出动画。

3、视频输入+文本输入:用户提供一个初始视频作为动画的基础。通过调整各种参数,根据文本prompt生成最终的输出动画。

除此之外,Stable Animation SDK对生成视频的时长没有限制,但是长视频将需要更长的时间来生成。

Stability AI发布了Stable Animation SDK后,有很多网友分享了自己测试效果,让我们一起看下吧:

Stable Animation SDK可以设置许多参数,例如steps、sampler、scale、seed。

还有下面这么多的预设风格可选择:

3D模型、仿真胶片、动漫、电影、漫画书、数码艺术、增强幻想艺术、等距投影、线稿、低多边形、造型胶土、霓虹朋克、折纸、摄影、像素艺术。

目前,动画功能API的使用是以积分计费的,10美元可抵1000积分。

使用Stable Diffusion v1.5模型,在默认设置值(512x512分辨率,30steps)下,生成100帧(大约8秒)视频将消耗37.5积分。

默认情况下,每生成1帧,Cadence值设置为1个静止图像,可根据不同的动画模式选择较低或较高的Cadence值。Cadence值的上限是动画中的总帧数,即至少生成一张静止图像。视频转视频的Cadence必须为 1:1。

官方也给出了一个示例,可以看出生成100帧标准动画的标准静止图像(512x512/768x768/1024x1024,30 steps), 随着Cadence值变化,积分的使用情况:

简单来说,受参数、时长等各种因素的影响,生成视频的费用并不固定。

效果和价格我们都了解了,那如何安装并调用API呢?

要创建动画并测试SDK的功能,只需要两个步骤即可运行用户界面:

在开发应用程序时,需要先设置一个Python虚拟环境,并在其中安装Animation SDK:

具体使用说明书放在文末啦!

越发火热的视频生成

最近,视频生成领域变得越来越热闹了。

比如,AI视频生成新秀Gen-2内测作品流出,网友看完作品直呼:太不可思议了!

Gen-2的更新更是一口气带来了八大功能:

文生视频、文本+参考图像生视频、静态图片转视频、视频风格迁移、故事板(Storyboard)、Mask(比如把一只正在走路的小白狗变成斑点狗)、渲染和个性化(比如把甩头小哥秒变海龟人)。

还有一位名叫Ammaar Reshi的湾区设计师用ChatGPT和MidJourney两个生成AI模型,成功做出一部蝙蝠侠的动画小电影,效果也是非常不错。

自Stable Diffusion开源后,一些开发者通过Google Colab等形式分享了各种魔改后的功能,自动生成动画功能一步步被开发出来。

像国外视频特效团队Corridor,他们基于Stable Diffusion,对AI进行训练,最终能让AI把真人视频转换为动画版本……

大家在对新工具的出现兴奋不已的同时,也有网友对Stable Animation SDK生成的视频所展现出的效果发出质疑:

这与 deforum有什么区别?没有时间线都不连贯,只有非常松散的一帧接一帧的图像。

那么你玩过这些工具了吗?感觉效果如何?

这是一位SD资深大神整理的,100款Stable Diffusion超实用插件,涵盖目前几乎所有的,主流插件需求。

全文超过4000字。

我把它们整理成更适合大家下载安装的【压缩包】,无需梯子,并根据具体的内容,拆解成一二级目录,以方便大家查阅使用。

单单排版就差不多花费1个小时。

希望能让大家在使用Stable Diffusion工具时,可以更好、更快的获得自己想要的答案,以上。

如果感觉有用,帮忙点个支持,谢谢了。

想要原版100款插件整合包的小伙伴,可以来点击下方插件直接免费获取
在这里插入图片描述

img

100款Stable Diffusion插件:

面部&手部修复插件:After Detailer

在我们出图的时候,最头疼的就是出的图哪有满意,就是手部经常崩坏。只要放到 ControlNet 里面再修复。

现在我们只需要在出图的时候启动 Adetailer 就可以很大程度上修复脸部和手部的崩坏问题

img

AI换脸插件:sd-webui-roop

换脸插件,只需要提供一张照片,就可以将一张脸替换到另一个人物上,这在娱乐和创作中非常受欢迎。

img

模型预设管理器:Model Preset Manager

这个插件可以轻松的创建、组织和共享模型预设。有了这个功能,就不再需要记住每个模型的最佳 cfg_scale、实现卡通或现实风格的特定触发词,或者为特定图像类型产生令人印象深刻的结果的设置!

img

现代主题:Lobe Theme

已经被赞爆的现代化 Web UI 主题。相比传统的 Web UI 体验性大大加强。

img

提示词自动补齐插件:Tag Complete

使用这个插件可以直接输入中文,调取对应的英文提示词。并且能够根据未写完的英文提示词提供补全选项,在键盘上按↓箭头选择,按 enter 键选中

img

提示词翻译插件:sd-webui-bilingual-localization

这个插件提供双语翻译功能,使得界面可以支持两种语言,对于双语用户来说是一个很有用的功能。

img

提示词库:sd-webui-oldsix-prompt

提供提示词功能,可能帮助用户更好地指导图像生成的方向。

上千个提示词,无需英文基础快速输入提示词,该词库还在不断更新。

以后再也不担心英文写出不卡住思路了!

img

由于篇幅原因,有需要完整版Stable Diffusion插件库的小伙伴,点击下方插件即可免费领取
在这里插入图片描述

StableDiffusion 文生视频教程,从Mov2mov到AnimateDiff 本文介绍了如何使用Stable Diffusion模型进行文生视频的生成,包括三个发展阶段:Mov2mov、ffmpeg + Ebsynth和AnimateDiff。 Stable Diffusion是文生视频的扩散模型,具备生成半AI视频和全AI视频的能力。 Mov2mov是早期的文生视频插件,通过重新绘制每一帧生成新视频。 ffmpeg + Ebsynth以关键帧+插帧为解决方案,提高了视频连贯性。 AnimateDiff通过对每X帧的剧本式描述,生成全AI视频。 阅读详情

相关推荐

多模态——使用stable-video-diffusion将图片生成视频

近期,stabilityAI发布了一个新的项目,是将图片作为基础,生成一个相关的小视频,本文主要是体验一下stable-video-diffusion的使用,以及对其使用方法进行简单的介绍。

weixin_44826203的博客 1万+

手把手教学!Stable Diffusion可以生成视频了~

这些模型要不就是没有开源,要不就是有一定的上手难度。因此本期介绍简单易上手的Stable Video Diffusion。 它是由Stability AI发布的,一个基于图像模型稳定扩散的生成视频模型。 目前它已经提供了相应的模型和开源代码,普通人可以在20秒内简单上手。

weixin_55154866的博客 1万+

Stable diffusion 都支持哪些模型

Stable Diffusion 的模型种类繁多,涵盖了从基础到高级的多种需求,同时支持文本到图像、图像到图像、视频生成等多种任务。这些模型不仅在分辨率和细节上有所提升,还通过不同的技术优化了性能和适用性,满足了不同用户的需求。

kcarly的专栏 2046

AI一键将图片变动画:stable-diffusion“图片转动画“干货教学

(全套教程文末领取哈)

weixin_58753619的博客 8350

[Stable Diffusion]AnimateDiff :最稳定的文本生成视频插件

在小视频风靡的时代,稳定的文本生成短视频成为了迫切需求。今天向大家介绍一款相对稳定且与其他插件兼容的工具——AnimateDiff。

weixin_54920184的博客 3436

利用ComfyUI和Stable Diffusion实现文本生成图像:详细操作步骤

在本篇博客中,我们将详细介绍如何安装和部署SD3模型,并通过CPUI工具进行可视化操作。SD3模型是一种基于Stable Diffusion的文本生成图像模型,能够高效生成高质量图像。视频内容强调了从h s mirror镜像站下载模型以提高下载速度和稳定性,并且推荐选择丹摩平台的RTX 4090显卡和150GB硬盘空间作为运行环境。Stable Diffusion 是一款非常流行的文本生成图像的底层模型,通过大规模训练图像数据来理解和生成各种复杂的场景和图像。

menetholl的博客 1251

Stable Diffusion动画版上线!十五种风格预设,支持文本图像视频多种输入方式

Stable Diffusion也能了!你没听错,StabilityAI推出了一款新的动画工具包StableAnimation SDK,可支持文本、文本+初始图像、文本+视频多种输入方式。使用者可以调用包括Stable Diffusion 2.0、Stable Diffusion XL在内的所有StableDiffusion模型,来生成动画。Stable Animation SDK的强大功能一经展现,网友惊呼:哇哦,等不及想试试了!

2401_85116933的博客 951

高质量水下垃圾数据集解析与应用实践

计算机视觉在环保领域的应用日益广泛,其中目标检测技术是关键支撑。通过深度学习模型对水下垃圾进行精准识别,需要高质量标注数据集作为基础。1962幅水下垃圾数据集采用专业预处理流程,包括色彩校正、去雾增强等技术,有效解决了水下图像的光照不均、水体浑浊等典型问题。该数据集覆盖12类常见海洋垃圾,标注错误率低于2%,显著提升了模型训练效果。在工程实践中,该数据集特别适合用于水下机器人实时检测系统和海洋垃圾分布热力图生成等场景,通过优化模型架构和数据增强策略,可实现更高效的环境监测与保护。

weixin_42616115的博客 251

【Stable Diffusion 动画版重磅更新】支持文生视频 / 图生视频!多模态输入解锁动态创作新场景

StabilityAI发布了StableAnimation SDK文本动画生成工具包。这个全新工具支持多种输入方式,包括纯文本、文本+初始图像以及文本+视频组合输入。

Android 开发架构 1579

ESP32-S3开发板实战:5分钟搞定智能门铃的音视频通话功能(附源码)

本文详细介绍了如何利用乐鑫ESP32-S3开发板快速实现智能门铃的实时音视频通话功能。通过ESP-ADF框架和RTC服务,开发者可在五分钟内完成环境搭建与核心功能调试,并附有源码和关键配置详解,为嵌入式音视频应用开发提供了高效实践路径。

web99的专栏 528

海康VisionMaster表面缺陷滤波实战:从参数调优到工业检测落地

本文深入解析海康VisionMaster表面缺陷滤波模块在工业检测中的应用。通过铝壳划痕检测实战案例,详细阐述了从参数调优(滤波核尺寸、方向权重、偏移)到ROI划定、Blob后处理的完整流程,旨在帮助工程师有效提升检测信噪比,实现缺陷精准定位与高效识别,最终推动项目稳定落地。

weixin_29051811的博客 625

Stable Diffusion复现——基于 Amazon SageMaker 搭建文本生成图像模型

如果我们的计算机视觉系统要真正理解视觉世界,它们不仅必须能够识别图像,而且必须能够生成图像。文本到图像的 AI 模型仅根据简单的文字输入就可以生成图像。用户可以输入他们喜欢的任何文字提示——比如,“一只可爱的柯基犬住在一个用寿司做的房子里”——然后,AI就像施了魔法一样,会产生相应的图像。文本生成图像(text-to-image)即根据给定文本生成符合描述的真实图像,其是多模态机器学习的任务之一,具有巨大的应用潜力🔥,如视觉推理图像编辑视频游戏动画制作和计算机辅助设计。问题1:配额不足或者无法申请配额。

m0_59162248的博客 1637

STM32中断实战:用ITR9606红外传感器DIY转速计数器(附完整代码)

本文详细介绍了如何使用STM32中断机制和ITR9606红外传感器DIY高精度转速计数器。从传感器选型、中断配置到抗干扰设计,提供完整的实战指南和优化代码,特别适合嵌入式开发者和硬件工程师快速实现工业级转速检测系统。

weixin_29159613的博客 293

Stable Diffusion视频生成终极指南:从文本到动态视觉的完整实现

你是否想过将静态的Stable Diffusion图像转化为流畅的视频?Stable Diffusion视频生成技术正在重新定义AI创作边界。这个开源工具让你能够在文本提示之间平滑过渡,创造出令人惊叹的动态视觉效果。今天,我将带你深入了解这个项目的核心功能、安装配置和使用技巧。 ## 理解Stable Diffusion视频生成的核心原理 Stable Diffusion视频生成并不是简单地拼

gitblog_00444的博客 1044

黑猫带你学eMMC协议第2篇:eMMC部分相关名词释义

1 前言 1.1 声明 本文依据eMMC JEDEC5.1、网络资料及个人工作经验整理而成,如有错误请留言。 本文结合eMMC JEDEC5.1协议手册查看效果更佳。 1.2 本文背景 本文关键词不包括emmc jedec5.1协议第3章节:《Terms and definitions》内容。关于emmc协议层的关键词,直接查阅spec相关章节即可,清晰明了,此处没必要再列出。 本文为本人工作学习中常听到或常用到关乎于emmc/flash的一些关键词合集,没有固定分类,不需要强行记忆,供查询使用。 1.

黑猫奥利奥的博客 7451

SAP 调用Ftp服务器

FTP(File transfer protocol)是一种标准的网络协议,可以用于在互联网上传递文件。SAP系统中可通过系列配置和提供的些标准函数,用于查看、更新、下载FTP服务器上的文件。提示:以下是本篇文章正文内容,下面案例可供参考。

qq_38304013的博客 1418
上一篇: Stable Diffusion绝美私房写真照,SD 喂饭级教程
下一篇: Stable Diffusion教程|文生图基本参数深入浅出!
壹只小小码农
博客等级 码龄5年 8105粉丝 1333原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值