Unity接入Stable Diffusion进行文生图,图生图笔记

AI 生成游戏:用 Stable Diffusion 实时创建像素世界 本项目的目标是使用模型来实时生成像素风格的游戏世界元素,并在游戏中动态加载这些元素。安装与配置 Stable Diffusion 模型:将 Stable Diffusion 环境搭建到本地或云端。将生成图像转化为像素艺术风格:通过文本提示生成合适的图像,并通过像素化处理,将其转换为符合游戏风格的像素艺术。集成到游戏引擎:将生成的像素图像集成到游戏引擎中,实现动态加载与显示。实现动态世界生成:根据玩家输入或游戏事件,实时生成和更新游戏世界中的图像资源。通过结合。 阅读详情
AI摘要

本文介绍了如何在Windows系统上安装Stable Diffusion的NVidia-GPU版本,并通过API将其功能接入Unity引擎。详细步骤包括安装、配置API、更新模型列表以及在Unity中进行图像生成操作。文中还提到了如何解决网络问题和模型风格更换的方法。

本文所有步骤流程均参考:GitCode - 全球开发者的开源社区,开源代码托管平台

这里仅为部署过程中的笔记,本项目案例基于windows10/11系统,Unity版本2021.3.16f1,其他硬件配置请参考原文要求。全程比较简单,只需要略懂点程序和网络这块即可。

1:在Windows 10/11上安装NVidia-GPU版本的release包

  1. 从下载sd.webui.zip并解压。下载地址https://github.com/AUTOMATIC1111/stable-diffusion-webui/releases/tag/v1.0.0-pre
  2. 首次运行点击update.bat,这时会更新一堆文件,直到看到“按任意键继续...”字样时即可关闭。
  3. 双击run.bat,首次运行会下载较多的文件,其中包含默认的大模型。这里也是比较耗时且容易出错的地方,出错的原因大多为网络问题,需要科学。
  4. 待一切更新完毕后,系统会自动打开本地网页:http://127.0.0.1:7860,如下图。

 这时候我们已经可以在网页端进行文字生成图片或者图片生图片等操作了。

接下来我们通过API将这些功能接入Unity中

Unity工程这里已经开发好一个界面版,有需要直接下载,工程简单,只是前端显示,若遇到问题可直接私信本人。工程文件下载地址:https://download.youkuaiyun.com/download/unitygroup/90440030

1:查看API文档:http://127.0.0.1:7860/docs,在文档的接口列表中我们看到当前运行的服务并不支持txt2img,img2img接口,这里需要我们手动添加参数启动,这步操作容易遗漏!

2:打开文件sd.webui\webui\webui-user.bat进行编辑,我们在set COMMANDLINE_ARGS=一栏添加--api(注意两个--)来启用相关api接口。set COMMANDLINE_ARGS=--api,这里是没有身份验证的,如果需要身份验证则需要继续添加参数(身份验证这里参数我暂时未测试,后续再看,先完成功能)。

3:这时候我们再运行run.bat,输入http://127.0.0.1:7860/docs打开api文档即可看到相关api接口。

这时候我们便可以用unity进行接入。

4:打开unity工程进行初始设置,如下图,将api文档中相关的接口输入到配置表中,由于之前api参数没有启用授权,所以下面的user和pass 不用写。

5:更新模型列表选项,打开Demo场景,DemoScense,选择StableDiffusionConfiguration,点击ListModels,这时候模型列表将会更新已有的模型。

6:运行Unity,选择模型并输入关键词即可进行生成创作。

7:默认的模型风格显然不是自己想要的,而且貌似中文听不懂,后续如果想更换模型的话我们可以从网上下载一些不同风格类型的模型,然后将模型存放到webui\models\Stable-diffusion路径下即可,存放完毕后更新模型列表即可使用。

最后主要的流程就写到这里,写的有点快没有深入的研究,后续继续再更新吧。

AI绘画普及课【二】文生图入门_平铺 分块 (tiling) 放轻松,其实写提示词的过程非常自由的,无论你写什么,AI都可以给你画,在StableDiffusion中,可以输入提示词的区域就是左上方这两个文本框了,之前也提到了,它被分为了上下两部分,上面是正向的提示词,下面是反向的提示词。本课程讲解的内容使用的是Stable Diffusion,但我知道有很多朋友用的是另一款非常流行的AI绘画应用MidJourney,这些框架的大逻辑框架其实是通用的,而 MidJourney 比SD要更依赖好的提示词来做出作品,在提示词的应用层面更具深度。 阅读详情

相关推荐

Unity AI材质生成:基于Stable Diffusion的文本到PBR材质实战

在计算机图形学与游戏开发中,材质是决定3D物体视觉真实感的核心要素,它通过一系列贴图(如漫反射、法线、粗糙度贴图)来模拟物体表面的物理属性。PBR(基于物理的渲染)技术通过遵循真实世界的光照模型,使材质在不同光照环境下都能保持视觉一致性,从而成为现代实时渲染的行业标准。其技术价值在于极大地提升了渲染效率与视觉效果的可预测性,广泛应用于游戏开发、影视制作、AR/VR及数字孪生等领域。随着生成式AI的突破,特别是Stable Diffusion等扩散模型的出现,AI开始赋能传统美术管线,能够根据文本描述自动生成

weixin_30875157的博客 755

使用Unity 接入 Stable-Diffusion-WebUI 文生图生成图像

这一部分就不多赘诉了,我使用的是B站秋叶大佬的整合包,。网上蛮多自己配置的,可能需要设密码之类的。经自己测试,使用整合包的话就不配置这个API账号密码了,不然会出现客户端出错,连接不上等问题(可能是我操作不当,我也还没研究透)附带:可以下一个Postman来测试接口。

weixin_55201233的博客 2708

Unity AI材质生成:基于Stable Diffusion的文本到PBR材质工作流实践

在计算机图形学与游戏开发中,材质是定义物体表面视觉属性的核心资源,其制作通常依赖Substance Designer等专业工具进行手动调整,流程耗时且门槛较高。PBR(基于物理的渲染)材质通过反照率、法线、粗糙度等多张贴图通道精确模拟光线与表面的交互,已成为行业标准。近年来,AIGC技术的突破,特别是Stable Diffusion等扩散模型的出现,为内容创作带来了范式变革。其原理是通过学习海量数据分布,实现从文本描述到高质量图像的跨模态生成。这一技术价值在于将创意描述直接转化为可用的数字资产,极大地提升了

weixin_30878501的博客 424

使用Unity 接入 Stable-Diffusion-WebUI的 文生图api 并生成图像

在无聊的时候,想瞅一下sd生图遂做了一下注意:我采用了异步处理,每点击一次发送一次请求,不需要等待生成完再点击。后面生成的画面会覆盖掉之前的。

风吹落叶的博客 4195

AI驱动游戏角色设计:从Stable Diffusion到Unity的敏捷美术管线实践

生成式AI技术,特别是扩散模型,正深刻改变数字内容创作流程。其核心原理是通过学习海量数据分布,实现从文本或草图到高质量图像的智能生成。这一技术为游戏开发、影视制作等领域带来了革命性的效率提升,其核心价值在于大幅降低了高质量视觉资产的生产门槛与时间成本。在游戏开发场景中,传统角色美术流程周期长、成本高,而AI工具链能够快速生成角色立绘、表情差分等资源,尤其适合项目前期原型验证与风格探索。本文聚焦于利用Stable Diffusion、LoRA、ControlNet等工具,构建从AI生成到Unity引擎集成的端

weixin_30731305的博客 372

探索利用 Unity 的稳定扩散创建实时、自适应虚拟世界的秘密

Stable Diffusion 是一项突破性的技术,它利用机器学习和控制网络在虚拟世界中创建和生成交互式体验。随着 Metaverse 的兴起,开发人员不断寻求创新方法来为用户创造身临其境和迷人的体验。在本文中,我们将探索 Unity 引擎中 Stable Diffusion 的潜力,并讨论如何使用它来创建动态的 Metaverse 体验。我们还将提供代码片段和最佳实践来指导您完成整个过程。

iCloudEnd的博客 481

探秘Unity ML-StableDiffusion:将AI艺术带入游戏开发的新篇章

探秘Unity ML-StableDiffusion:将AI艺术带入游戏开发的新篇章 UnityMLStableDiffusion Core ML Stable Diffusion on Unity 项目地址: https://gitcode.com/gh_mir...

gitblog_00085的博客 1152

【Stable Diffusion】文生图txt2img基础使用

Stable Diffusion WebUI 提供强大的图像生成功能,用户通过文本提示和参数调整可生成多样化图像。关键参数包括模型选择、正负面关键词、采样方法、图像尺寸等,共同影响生成效果。模型文件(Checkpoint)决定风格基础,可从Civitai下载并更换。Prompt关键词需用英文描述画面内容,越具体效果越精准。负面词用于避免不良元素,采样步数控制精细度,尺寸和批次调整输出规格。特殊符号可调节关键词权重,高清修复功能提升画质。通过灵活组合参数,用户可实现从写实到卡通风格的多样化创作需求。

Mr数据杨 3254

Stable Diffusion使用入门教程

Stable Diffusion是一个文本到图像的潜在扩散模型,由CompVis、Stability AI和LAION的研究人员和工程师创建。它使用来自LAION-5B数据库子集的512x512图像进行训练

benben044的专栏 8589

【Stable Diffusion】Animatediff V2静态图像生成视频

AnimateDiff V2集成到WebUI中,简化了动画GIF生成流程,用户可直接在界面中创建动态效果。安装需下载模型并放置指定目录,配置参数如帧数、FPS等可调整动画效果。通过文生图方式,输入关键词即可生成随机动画,无需依赖外部工具,实现高效创作。

Mr数据杨 2338

交流伺服电机绝对式位置控制实战指南

伺服电机控制是工业自动化的核心技术之一,其核心原理是通过闭环反馈实现精确位置控制。绝对值编码器作为关键传感器,能提供单圈内的绝对位置信息,避免了增量式编码器的累计误差问题。在工程实践中,电子齿轮比配置、位置环PID调节等技术直接影响系统动态性能。本文以包装机械为典型场景,详细解析了从硬件选型到参数整定的全流程实现方案,特别是针对单圈绝对值编码器初始化和限位保护等易错环节,给出了经过验证的解决方案。通过合理设置17位编码器的电子齿轮比和优化运动控制算法,最终实现了±0.05°的高精度定位。

weixin_42531588的博客 281

Stable Diffusion Unity 集成项目教程

Stable Diffusion Unity 集成项目教程 1. 项目介绍 Stable Diffusion Unity 集成项目是一个用于在 Unity 编辑器中使用 Stable Diffusion Automatic 1111 WebUI 生成图像的基本但功能强大的 Unity 编辑器组件。该项目允许用户在 Unity 中直接生成图像,适用于 3D 模型纹理和 UI 元素的生成。 主要功能 ...

gitblog_00910的博客 1621

地质工程师必备:Dips软件从数据导入到主结构面分析的完整流程解析

本文详细解析了地质工程师使用Dips软件进行主结构面分析的完整流程。从数据准备与导入、结构面分组与扇形区划分,到主结构面计算与工程解读,系统阐述了如何将野外节理数据转化为控制岩体稳定性的关键信息。重点介绍了利用等值线图识别优势组、计算统计主值及其置信椭圆,并强调了地质判断与工程应用结合的重要性。

table的专栏 340

Unity ML-Stable Diffusion 使用指南

--- ## 项目介绍 **Unity ML-Stable Diffusion** 是一个在Unity引擎中集成苹果Core ML平台的Stable Diffusion插件。该插件使开发者能够在Unity编辑器内及运行时无需额外组件即执行基于Apple Core ML的Stable Diffusion模型,为游戏和交互式应用带来先进的图像生成能力。它特别适合配备Apple Silicon芯片的

gitblog_01182的博客 1227

71、CAN总线双绞线绞距与抗共模干扰的定量关系

摘要:本文探讨了CAN总线双绞线绞距与抗共模干扰的定量关系。通过理论推导得出共模电压与绞距平方成正比,绞距越小抑制效果越好。工程实践表明,工业现场推荐绞距不超过30mm,高频干扰场景需优先优化绞距。实测数据验证了绞距均匀性的重要性,建议控制在15-25mm范围,安装时保持绞合结构完整。案例显示,将绞距从50mm改为15mm后,共模干扰从12V降至1.8V,有效解决了CAN通信问题。绞距选择需兼顾理论计算与现场实测,同时注意与屏蔽层的协同设计。

2401_88858637的博客 182

自主探索型AI Agent:LLM驱动的好奇心与学习动机

随着人工智能技术的飞速发展,传统的AI系统往往依赖于预设的规则和大量的标注数据,其自主学习和适应新环境的能力有限。自主探索型AI Agent旨在打破这种局限,能够在复杂、未知的环境中自主地进行探索、学习和决策。本文的目的是深入研究在大语言模型(LLM)驱动下,AI Agent如何产生好奇心和学习动机,以及如何实现自主探索的能力。范围涵盖了核心概念、算法原理、数学模型、项目实战、应用场景等多个方面,为读者提供一个全面的技术视角。本文将按照以下结构进行阐述:首先介绍相关背景知识,包括目的、读者和文档结构;

大模型应用工坊 997

Unity ML Stable Diffusion 常见问题解决方案

Unity ML Stable Diffusion 是一个开源项目,旨在将基于 Core ML 的 Stable Diffusion 模型集成到 Unity 游戏引擎中。该项目主要使用 C# 和 Unity 的 Shader 语言进行编程。 ## 新手常见问题及解决步骤 ### 问题一:项目环境搭建 **问题描述:** 新手在使用项目时,可能会遇到不知道如何正确设置 Unity 开发环境的问

gitblog_00595的博客 1081

一些笔者原创或者搜集的 ABAP 小工具集合(一),持续更新中!!

每个报表短小精悍,拷贝到系统激活即可运行。不少报表脑洞大开。

2007 年 ~ 2025 年,深耕 SAP 技术 18 年 2729

Stable Diffusion 3.5 FP8模型与Unity引擎集成方案

本文介绍如何将Stable Diffusion 3.5 FP8模型与Unity引擎结合,通过外部API服务实现高效文生图功能。利用FP8量化技术降低显存占用至10.5GB,提升推理速度,并采用解耦架构避免阻塞Unity主线程,支持实时生成贴图与资源,显著提升游戏开发效率。

weixin_35950531的博客 340

《多模态融合改进》目录一览 | 专栏介绍 :全网 第一份 完整的多模态改进教程,提供《多模态模型改进完整项目包》-开箱即用

在大家订阅专栏后,便可获得多模态模型改进完整项目包-开箱即用,方便简单

Limiiiing的博客 1万+

YOLOv11涨点改进 | 全网创新首发、主干改进篇 | CVPR 2025 | RAVLT主干让 YOLOv11 更加强大!通过增强线性注意力机制,特别在小目标和复杂背景的检测上表现突出

本文提出RAVLT主干网络,通过改进YOLOv11的空间特征建模能力,显著提升小物体和复杂背景检测性能。RAVLT采用秩增强线性注意力(RALA)机制,在保持线性计算复杂度的同时解决传统线性注意力低秩问题。RALA通过增强KV缓冲区和输出特征矩阵的秩,提高特征多样性和建模能力。实验表明,RAVLT在ImageNet-1k上达到84.4% Top-1准确率,仅需2600万参数和4.6GFLOPs,性能优于现有线性注意力模型。文章详细介绍了RAVLT模块结构、实现原理及在YOLOv11中的集成方法,包含四种主干

Ai缝合怪、助力小伙伴高效发论文 636

Stable Diffusion Unity 集成 v1.2.6:为你的 Unity 项目注入创意之魂

Stable Diffusion Unity 集成 v1.2.6:为你的 Unity 项目注入创意之魂 项目介绍 Stable Diffusion Unity Integration v1.2.6 是一个功能强大的 Unity 编辑器组件,它允许你在 Unity 编辑器中直接使用 Stable Diffusion Automatic 1111 的 WebUI 进行图像生成。无论你是为 3D 模型贴...

gitblog_00876的博客 1445

【SAP HANA 46】关于HANA CPU高峰到 80-100%

关于HANA CPU高峰到 80-100%

探索 Java 编程的技巧、最佳实践和解决方案。本博客提供针对 Java 开发者的实用指南,涵盖从基础到高级话题,旨在提升编程效率和技能。 427

Unity Core ML Stable Diffusion 插件:开启实时图像生成新纪元

Unity Core ML Stable Diffusion 插件是一款基于 Apple 的 Core ML 技术,专为 Unity 引擎设计的 Stable Diffusion 模型插件。该插件允许开发者在 Unity 编辑器和运行时环境中无缝运行 Stable Diffusion 模型,无需任何额外组件。通过这一插件,开发者可以在 Apple Silicon Mac 和 iPad Pro 等设

gitblog_01159的博客 788

SAP B1中文培訓教材_SDK

公司内部培训资料,对开发工具 ,DIAPI, UIAPI,Add-ON有详细解说

ssm框架搭建

这个是一个在idea上成功跑起来的ssm框架项目,保存在这里方便以后使用直接下载

Stable-Diffusion-Unity-Integration 项目使用教程

Stable-Diffusion-Unity-Integration 项目使用教程 1. 项目目录结构及介绍 Stable-Diffusion-Unity-Integration/ ├── Assets/ │ ├── Packages/ │ ├── ProjectSettings/ │ ├── gitignore │ ├── LICENSE │ ├── README.md │ ...

gitblog_00920的博客 852

RU DOS版、EFI版32bit/64bit BIOS常用工具

DOS版、EFI版的RU工具,可用来查看IO、MEM、PCI、SMBIOS等资源。亲测在EFI SHELL下可用。

Stable Diffusion游戏关卡设计落地实践

本文探讨Stable Diffusion在游戏关卡设计中的应用,涵盖技术原理、本地部署、提示词构建、引擎集成及工业化挑战,提出AI辅助设计的闭环工作流。

weixin_42524864的博客 926

Data-Structures-and-Algorithm-Analysis-in-Java.pdf

作者: Weiss, Mark A. 出版社: Addison Wesley Data Structures and Algorithm Analysis in Java is an “advanced algorithms” book that fits between traditional CS2 and Algorithms Analysis courses. In the old ACM Curriculum Guidelines, this course was known as CS7. This text is for readers who want to learn good programming and algorithm analysis skills simultaneously so that they can develop such programs with the maximum amo...

上一篇: VR大空间,LBE大空间系列开发笔记-《空间轮廓标定》
下一篇: VR大空间开发前期,设备选项与流程
unitygroup
博客等级 码龄7年 377粉丝 18原创
评论 2
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值