单图0.5秒生成3D模型!Stability AI&华人团队VAST出品

一个将图片转3D的开源项目TripoSR TripoSR AI是StabilityAI联合发布的图生3D模型,TripoSR是一个快速的3D物体重建模型。TripoSR能够在不到一秒钟的时间内从单张图片生成高质量的3D模型。TripoSR模型的特点是能够快速处理输入,在 NVIDIA A100 GPU 上不到 0.5 秒的时间内生成高质量的 3D 模型。TripoSR在定性和定量评估中都表现出卓越的性能,在多个公共数据集中优于其他开源替代方案。下图说明了TripoSR相对于其他领先型号的性能的视觉比较和指标。 阅读详情

无需GPU即可部署,0.5秒就能通过单张图片生成3D模型。

大语言模型风暴再起的一晚,3D生成领域也有新开源模型引发关注。

二月底,Stability AI悄然换将,新任CTO Christian是图形学和机器视觉大佬。上任不到五天,立刻官宣为开源社区带来重磅炸弹:和华人团队VAST联合推出3D生成模型TripoSR。

只需短短的0.5秒,TripoSR就能把单张图片转化为一个几何结构完整、材质纹理清晰的3D模型,无需任何prompt和专业知识,甚至不需要依赖GPU。

△图源Stability AI官网

可以看出,不管是人物角色、家装建筑、食物摆件,TripoSR都能理解和还原。

△图源TripoSR技术报告

TripoSR的灵感来源于2023年11月Adobe提出的LRM。

和Sora作为视频生成模型使用的Transformer架构相似,TripoSR和LRM都基于Transformer架构。

这种方式将图像生成3D模型的任务巧妙地理解为一场跨维度的语言翻译。想象一下,每一张输入的图像都是一种独特的语言,而模型的任务,就是将这种图像语言翻译成另一种三维的表达——3D模型语言。

在这场翻译中,图像语言的“词汇”由输入图像精心切割成的一块块小方块,类比于视频语言的“词汇”是patch,而3D模型语言的“词汇”则是由“三平面(triplane)”构成的三维空间中的小方块。这个方法的核心就在于它能够将这些图像语言的“词汇”一一对应地转化为3D模型语言的“词汇”,从而将二维的图像转化为三维的模型。

在transformer架构的强力推动下,LRM在超过百万级别的公开三维数据集上接受了训练,这标志着它与以往那些仅限于特定类别的研究工作划清了界限。这种对任意用户输入的广泛适应性和超高的运行效率赢得了赞誉在学术界和工业界掀起了一阵热潮。

尽管如此,LRM的代码和模型并未对外开放,加之其训练成本之高——需要128块A100 GPU连续运行一周——这使得许多资源有限的研究团队望而却步,从而在一定程度上限制了这项技术向更广泛领域的推广。

或许还有人有印象Stability AI此前开源的3D项目Stable Zero123。

这个项目基于另一个受到广泛关注的开源项目threestudio,尽管这个集成尝试取得了不少进展,但由于其依赖的技术(比如score distillation sampling)需要较长的优化和计算时间,使得生成一个3D模型既缓慢又资源消耗巨大,这个问题仍未能被充分解决。

直至TripoSR的出现,学术界和开源界一直缺少一个开放、快速、且具备强大泛化能力的3D生成基础模型和框架。

该模型基于LRM的原始算法,通过精细筛选和渲染的Objaverse数据集子集以及一系列的模型和训练改进,显著提高了从有限训练数据中泛化的能力,同时也增强了3D重建的保真度。

△与其他算法对比

因此,可以说Tripo AI和Stability AI联合推出的首个LRM高质量开源实现——TripoSR极大地填补了3D生成式人工智能领域的一个关键空白。

△性能表现:F-Score(越高越好)与推理时间(越低越好)的关系

作为Stable Diffusion背后公司,Stability AI无需多做介绍,那么此番与Stability AI携手的Tripo AI又是何许人也?

根据公开信息,Tripo AI背后是一个叫作VAST AI Research的新锐3D研究机构。

自2023年底相继开源了Wonder3D、CSD、TGS等工作的代码和权重,获得了开源社区的广泛好评。

Tripo是VAST在2023年12月推出的通用3D生成模型。能实现8秒内通过文字或图片生成3D网格模型,并通过5分钟进行精细化生成,生成模型质量在几何和材质层面都接近手工水平。

根据其披露的运营动态,目前已上线模型生成之外,风格化、自动骨骼绑定等更多3D生成相关功能。

你觉得2024年会是3D生成领域爆发的一年吗?

如何学习大模型 AI ?

由于新岗位的生产效率,要优于被取代岗位的生产效率,所以实际上整个社会的生产效率是提升的。

但是具体到个人,只能说是:

“最先掌握AI的人,将会比较晚掌握AI的人有竞争优势”。

这句话,放在计算机、互联网、移动互联网的开局时期,都是一样的道理。

我在一线互联网企业工作十余年里,指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家,也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑,所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限,很多互联网行业朋友无法获得正确的资料得到学习提升,故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

在这里插入图片描述

第一阶段(10天):初阶应用

该阶段让大家对大模型 AI有一个最前沿的认识,对大模型 AI 的理解超过 95% 的人,可以在相关讨论时发表高级、不跟风、又接地气的见解,别人只会和 AI 聊天,而你能调教 AI,并能用代码将大模型和业务衔接。

  • 大模型 AI 能干什么?
  • 大模型是怎样获得「智能」的?
  • 用好 AI 的核心心法
  • 大模型应用业务架构
  • 大模型应用技术架构
  • 代码示例:向 GPT-3.5 灌入新知识
  • 提示工程的意义和核心思想
  • Prompt 典型构成
  • 指令调优方法论
  • 思维链和思维树
  • Prompt 攻击和防范
  • …

第二阶段(30天):高阶应用

该阶段我们正式进入大模型 AI 进阶实战学习,学会构造私有知识库,扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架,抓住最新的技术进展,适合 Python 和 JavaScript 程序员。

  • 为什么要做 RAG
  • 搭建一个简单的 ChatPDF
  • 检索的基础概念
  • 什么是向量表示(Embeddings)
  • 向量数据库与向量检索
  • 基于向量检索的 RAG
  • 搭建 RAG 系统的扩展知识
  • 混合检索与 RAG-Fusion 简介
  • 向量模型本地部署
  • …

第三阶段(30天):模型训练

恭喜你,如果学到这里,你基本可以找到一份大模型 AI相关的工作,自己也能训练 GPT 了!通过微调,训练自己的垂直大模型,能独立训练开源多模态大模型,掌握更多技术方案。

到此为止,大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗?

  • 为什么要做 RAG
  • 什么是模型
  • 什么是模型训练
  • 求解器 & 损失函数简介
  • 小实验2:手写一个简单的神经网络并训练它
  • 什么是训练/预训练/微调/轻量化微调
  • Transformer结构简介
  • 轻量化微调
  • 实验数据集的构建
  • …

第四阶段(20天):商业闭环

对全球大模型从性能、吞吐量、成本等方面有一定的认知,可以在云端和本地等多种环境下部署大模型,找到适合自己的项目/创业方向,做一名被 AI 武装的产品经理。

  • 硬件选型
  • 带你了解全球大模型
  • 使用国产大模型服务
  • 搭建 OpenAI 代理
  • 热身:基于阿里云 PAI 部署 Stable Diffusion
  • 在本地计算机运行大模型
  • 大模型的私有化部署
  • 基于 vLLM 部署大模型
  • 案例:如何优雅地在阿里云私有部署开源大模型
  • 部署一套开源 LLM 项目
  • 内容安全
  • 互联网信息服务算法备案
  • …

学习是一个过程,只要学习就会有挑战。天道酬勤,你越努力,就会成为越优秀的自己。

如果你能在15天内完成所有的任务,那你堪称天才。然而,如果你能完成 60-70% 的内容,你就已经开始具备成为一名大模型 AI 的正确特征了。

这份完整版的大模型 AI 学习资料已经上传优快云,朋友们如果需要可以微信扫描下方优快云官方认证二维码免费领取【保证100%免费】

123?spm=1001.2014.3001.5501)这份完整版的大模型 AI 学习资料已经上传优快云,朋友们如果需要可以微信扫描下方优快云官方认证二维码免费领取【保证100%免费】

在这里插入图片描述

腾讯InstantMesh30秒图片生成3D模型;微软实时生成会说话的头像VASA;由 AI 创作的恶搞视频片段Sitcom Simulator 这个API基于Stable Diffusion 3模型,该模型采用了全新的Multimodal Diffusion Transformer(MMDiT)架构,实现了更加精准的文本理解和拼写能力,与现有的文本到图像生成系统如DALL-E 3和Midjourney v6相比,在排版和提示符遵循性方面表现更佳。SadTalker是一个基于深度学习的工具,它能够将单张静态人像图片与音频(比如一段对话或音乐)结合,生成一段看起来这个人像在说话或表达情感的真实动态视频。能够自动生成由 AI 创作的恶搞视频片段。 阅读详情

相关推荐

TripoSR:开源3D生成闪电战!单图0.5秒建模,Stability AI颠覆设计流程

TripoSR是由Stability AI和VAST联合推出的开源3D生成模型,能在0.5秒内从单张2D图像快速生成高质量3D模型,支持游戏开发、影视制作等多领域应用。

士多啤梨先生の博客 828

TripoSR 3D模型:高质量3D模型,ComfyUI使用手册

TripoSR 3D生成模型是由 Stability AI 和 Tripo AI 两家公司联合开发的一款快速前向反馈3D生成模型。TripoSR使用了Large Reconstruction Model (LRM)模型原理,取得了3D重建的速度和质量得显著提升。TripoSR模型优势在于能够根据输入信息快速处理完成,TripoSR模型在NVIDIA A100 GPU上生成一个高质量3D模型的时间耗时不到0.5秒。TripoSR在定性和定量评估中均展现出优秀的性能,超越了其他多个公共数据集上的开源替代品。

阿道夫的博客 2704

3D生成模型TripoSR完美搭建流程,包含所有问题解决方案!

最近需要使用3D生成模型,无意中看到了TripoSR,觉得效果还行,于是打算在Linux系统上部署一下,结果遇到很多坑,在这里写一下详细的部署流程和部署过程中遇到的问题。下面是TripoSR的源码地址。接下来将开始详细讲解部署流程,戴好耳机,准备了!

满目星辰 1687

离线一键图片转3D模型!6G显存,快速建模!

只需一张图片就可以一键生成3D模型!今天给大家分享一个好玩的项目——TripoSR。项目特点是非常快速的生成3D模型。

嘟嘟的博客 4182

ImageModeler:照片转3D模型的全方位指南

ImageModeler软件以其照片建模技术在3D建模领域中占据了独特的地位。它的出现,对于那些寻求通过照片快速生成高精度三维模型的设计师和艺术家来说,无疑是一个划时代的进步。尽管市场上3D建模工具众多,但ImageModeler凭借其易于使用和精确的建模能力脱颖而出。

weixin_35636570的博客 1702

手把手教你用IN-Sight智能相机实现双向TCP/IP通讯(附网络调试助手推荐)

本文详细解析了IN-Sight智能相机实现双向TCP/IP通讯的完整流程。通过将相机同时配置为TCP服务器和客户端,构建了与上位机(如PLC、MES)稳定可靠的数据交换通道。文章深入剖析了发送(TCPDevice)与接收(ReadDevice)通道的独立配置、关键参数设置(如结束符CR+LF)、高效调试工具选择以及实战避坑指南,帮助工程师快速掌握这一构建柔性产线数据节点的核心技术。

qsc9012345的博客 671

TripoSR模型构建指南

TripoSR:极速3D重建,单图输入,顷刻成像!TripoSR 是由 Tripo AI 和 Stability AI 合作开发的最先进的开源模型,用于从单个图像进行快速前馈 3D 重建。本文提供了模型构建、配置和运行的详细步骤。

SJJS_1的博客 3081

SystemVerilog从入门到实战

SystemVerilog复合数据类型概述 SystemVerilog增强了Verilog的数据建模能力,提供多种复合数据类型: 数组类型:包括定宽数组(固定大小)、动态数组(运行时分配)和多维数组,支持高效索引访问。 队列:结合数组和链表特性,支持两端快速插入/删除操作,提供push/pop等方法。 关联数组:键值对存储结构,支持稀疏数据存储和快速查找,提供exists/delete等方法。 结构体:组合不同类型数据成员,支持打包(packed)形式以优化存储空间。 枚举类型:为数值赋予语义名称,支持状态

2301_79143213的博客 1227

TripoSR:开源3D重建模型,0.5秒就能完成2D到3D图转换

TripoSR利用大型重建模型(LRM)的原理,带来了显着提高3D重建速度和质量的关键进步。该模型以其快速处理输入的能力而闻名,在NVIDIA A100 GPU上不到0.5秒就能生成高质量的3D模型。根据你的平台安装PyTorch:https://pytorch.org/get-started/locally/ [确保本地安装的CUDA主版本与PyTorch附带的CUDA主版本相匹配]TripoSR是由Tripo AI和Stability AI合作开发的最先进的开源模型,用于从单个图像中快速前馈3D重建。

AIGC Studio:分享AIGC前沿知识和好玩应用,公众号同名。 2590

企业级 Multi-Agent 实施指南:从需求拆解到上线验收的全流程方法论

本文基于12个不同行业(金融、制造、零售、互联网)的百万级Multi-Agent投产项目经验,提炼出一套可复用的全流程实施SOP,覆盖需求对齐与拆解、架构设计、开发实现、测试优化、上线部署、验收迭代6个核心阶段,包含标准化工具、量化指标、踩坑指南、可直接运行的代码示例,帮你避开90%的落地坑。需求阶段是项目成败的核心,必须对齐业务方的量化指标,明确系统边界架构设计要兼顾性能、安全、可扩展性,不要为了炫技选择复杂的框架工程化是投产的关键,测试、灰度、监控、降级机制缺一不可。

AI云原生与云计算技术学院 224

《一》:LBE,VR 大空间系列——场景环境需求解析

当前,大量 VR 体验活动在室内场地开展。因此,对于场地照明有特定要求:除天花板外,场地的所有表面均需有照明覆盖。这是为了保证玩家无论处于场地的哪个位置,地面与墙面都不会出现明显的影子。场地内不建议安装射灯或高强度的点光源,若已安装此类灯具,需使用柔光板进行遮盖。此外,要避免在阳光下使用 VR 设备台。参考图(请忽略其中Maker标签)

unitygroup的博客 944

TripoSR重磅开源!最先进的3D生成模型!不到0.5秒重建高质量的3D

点击下方卡片,关注“CVer”公众号AI/CV重磅干货,第一时间送达点击进入—>【扩散模型和多模态】交流群添加微信:CVer444,小助手会拉你进群!扫描下方二维码,加入CVer学术星球,可以获得最新顶会/顶刊上的论文idea和CV从入门到精通资料,及最前沿应用!发论文搞科研,强烈推荐!允中 发自 凹非寺转载自:量子位(QbitAI)无需GPU即可部署,0.5秒就能通过单张图片生成3D模型。...

阿木寺的博客 2513

Xilinx系ZYNQ学习笔记(一)Vivado使用说明

vivado使用学习

贾saisai的博客 1876

Unique3D:开启单张图片三维重建新篇章

???? Unique3D:开启单张图片三维重建新篇章 ???? Unique3DOfficial implementation of Unique3D: High-Quality and Efficient 3D Mesh Generation from a Single Image项目地址:https://gitcode.com/gh_mirrors/un/Unique3D 在当今高速发展的科技领域中,...

gitblog_00043的博客 3713

OpenClaw 多代理协同工作模式配置指南

OpenClaw 采用。

形上得其象,形下合于数;阴阳自济,玄理自明。 1万+

Android 13.0 展讯平台关机充电动画横屏显示修改

在13.0的系统rom定制化开发中,在关于展讯平台的产品中,系统默认的充电动画是竖屏显示的,但是在像平板的产品中竖屏动画肯定不符合规范, 所以需要在平板TV产品中,充电动画同时也是需要修改为横屏显示的,接下来就来分析下充电动画的相关绘制流程,然后实现功能

安卓兼职framework和app工程师的博客 410

论文阅读 TripoSR: Fast 3D Object Reconstruction from a Single Image 单张图片快速完成3D重建

TripoSR,这是一种利用 Transformer 架构进行快速前馈 3D 生成的 3D 重建模型,可在 0.5 秒内从单个图像生成 3D 网格。TripoSR 基于 LRM 网络架构,集成了数据处理、模型设计和训练技术方面的重大改进。对公共数据集的评估表明,与其他开源替代品相比,TripoSR 在数量和质量上都表现出卓越的性能。TripoSR 在 MIT 许可下发布,旨在为研究人员、开发人员和具有 3D 生成人工智能最新进展的创意。

出门吃三碗饭的博客 3156

百万 Token 压力实测:1M Context 的真实能力边界在哪里?

本文揭示了长上下文模型的性能衰减规律:1M上下文存在"容量曲线"与"质量曲线"的分歧,512K是可靠拐点。通过MRCR测试发现,不同任务类型衰减差异显著——检索任务在512K后性能下降30.6%,而生成任务仅下降5%。研究提出三阶段补偿策略:三明治注入(首尾指令强化)、语义面包屑(位置标记)、引用检查(强制溯源),可将512K-1M区间的可用性提升20%。工程实践表明,中段区域(30-70%位置)是注意力薄弱区,需要特殊处理。最终建议:关键检索任务控制在512K内,关联推理任务可扩展至

liuzhupeng的专栏 342

【AI工具分享】Retrovision一个图片转3D模型在线工具

它极大地简化了从图像到3D模型的转换过程,降低了技术门槛,提高了工作效率。对于那些需要参考图像来构建3D场景的设计师、艺术家和开发者来说,Retrovision无疑是一个极具实用价值的工具。随着技术的不断进步和应用场景的不断拓展,Retrovision有望在未来的3D内容制作领域发挥更加重要的作用。Retrovision是一款前沿的web应用程序,致力于将传统的2D图像快速、简便地转换为高质量的3D模型。其核心功能围绕视差图处理与3D网格生成,为3D内容创作者提供了一个全新的创作平台。

这里汇聚了前沿的技术分享与实用的开发技巧,带你探索从创意到企业的技术创业之路。 5584

蓝牙模块HM-10手册

蓝牙模块HM-10手册,该手册对蓝牙模块HM-10进行了详细的介绍和使用方法以及一些AT指令。

NTscan扫描工具

ntscan是一个扫描器,可以扫描没有密码和弱密码的共享,先到配置文件中填写猜测的用户名和密码,扫描过程中右侧出现的是扫描日志。

从2D图片生成3D模型(3D-GAN)

3D-GAN是使用生成对抗网络学习2D图像到3D模型的映射,生成网络负责生成3D模型,对抗网络判断这些模型是真是假。 3D-GAN:http://3dgan.csail.mit.edu/ 3D-GAN paper:https://arxiv.org/pdf/1610.07584v2.pdf 3D-GAN代码:https://github.com/zck119/3dgan-re

MachineLP的专栏 2万+

温度PID控制PLC程序

温度PID稳定控制程序,适用于欧姆龙PLC,对其他PLC也具有很大参考价值

TripoSR:0.5秒从单图到3D模型,开源3D重建的革命性工具

TripoSR是一款由Tripo AI与Stability AI联合开发的开源单图像3D重建模型,能够在短短0.5秒内将任意2D图片转换为高质量的3D网格模型。基于大型重建模型(LRM)原理,它不仅在速度上实现突破,还在重建质量上超越多个开源方案,为3D内容创作和生成式AI应用提供了强大支持。 ## 🚀 核心特性:为什么选择TripoSR? ### 极速重建:0.5秒完成3D转换 Tripo

gitblog_00427的博客 558

廖雪峰Python教程[完整版]

廖雪峰的python教程整理的,已经排好版了,而且还是完整的,适合小白

AI 图片生成3D模型之

AI 可以通过学习大量的图像数据来生成 3D 模型。这些模型可以用于许多不同的目的,如游戏开发、建筑设计和动画制作。为了生成 3D 模型,AI 系统通常需要输入许多 2D 图像,这些图像可以是从不同角度拍摄的照片或者是从视频中截取的帧。AI 系统会自动学习如何将这些图像组合起来,生成一个连贯的 3D 模型。这种技术可以大大简化 3D 模型制作的过程,并且可以使得模型更加精确。 ...

weixin_42588555的博客 1247

【TripoSR单图3D建模】本地部署整合包

【TripoSR单图3D建模】是一款能把2D图片转换成3D模型的AI,由Tripo和Stability AI公司联合研发,是一个从收费应用转开源的项目,可以在Tripo官网注册后在线使用,但免费试用账号有一些限制,也可以把这个开源项目部署到本地电脑上,支持CPU运行,但在没有独立显卡的情况下,至少需要8G以上的内存,推荐配置是使用英伟达显卡 6G显存 16G内存。链接:https://pan.quark.cn/s/c5fe8dde027b。

irpywp的博客 5080

开源3D生成新标杆:TripoSG如何实现“秒级”高精度三维建模?

TripoSR 是一款先进的 图像到 3D (Image-to-3D) 模型,它的核心使命是:从单一 2D 图像快速、高效地生成高质量的带纹理 3D 网格模型。它由知名的 AI 公司 Stability AI 和 3D 建模平台 Tripo AI 合作开发并完全开源,旨在降低 3D 内容创作的门槛,让更多人能够轻松将 2D 创意转化为 3D 实体。极速生成: 核心卖点,能在极短时间内完成 3D 重建。单图输入: 摆脱了对多视角、深度图等复杂输入的依赖。

nulifancuoAI的博客 1330
上一篇: 来感受一下“人工智能+”,三甲医院是这样用大模型的
下一篇: ChatGPT变懒原因:正在给自己放寒假!已被网友测出
普通网友
博客等级 码龄3年 4493粉丝 309原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值