我花了二周时间整合了一个数字人合成系统

AIGC实用场景-ChatBI架构设计 ChatBI作为一种创新的商业智能解决方案,通过自然语言处理技术显著降低了数据分析的门槛,使得非技术用户也能轻松地获取数据洞察。其架构设计以用户需求为导向,融合了先进的大型语言模型,提供了高效、直观的数据分析体验。腾讯云ChatBI的成功实践进一步证明了ChatBI在实际业务中的应用价值和市场潜力。 阅读详情

先说下为什么做这个系统。当前市面上有不少的数字人合成系统,但是他们的做法基本上都是缝合了若干个开源系统。

比如数字人形象生成整合了

Easy- wav2lip,Wav2lip-HD,MuseTalk,DH-Live等系统。

要知道目前开源的数字形象系统没一个能商用的,整合再多的也无济于事,而且每一个系统的资源开销占用都超出了普通电脑的负载能力,更别说一下子整合这么多系统。

这种做法不仅对用户不友好,对开发者来说也不是一件容易的事情,因为每个系统都有自己独立的依赖版本,整合不同的系统面临相当大的改造成本,开发者必须保证不同系统使用的依赖包能兼容,为此,可能不得不大幅度修改源码,这不是一般人能做得了的。所以,我相信,这类整合系统的做法只能是采用虚拟隔离,即创建了多个虚拟环境,这个做法虽然减轻了开发者的负担,但是把复杂和不灵活留给了用户。

那我们该怎么做呢?

首先,我们整合了基本能商用的高清版本的wav2lip,而不是采用其他开源的系统,刚才说了,无论你用哪个开源的数字形象系统,其效果也只是玩具而已。

其次,声音克隆系统,我整合了目前效果还算不错的GPTSovits。

这两个系统虽然很多地方存在包的冲突,但是为了避免多虚拟环境带来的额外开销,我将二者代码重写,整合成一个独立的系统,提供更易于用户使用的交互界面,不仅大大减少了系统的总大小,而且无论是在用户使用还是系统开发上都更灵活。

整个系统开发开发下来,整整耗费了单人2周的时间精力,来看看我整合后的系统功能截图:

从tab上看,它支持声音复刻和视频合成,其中视频合成支持批量合成:

在声音复刻方面,它支持中文声音复刻和多语种声音复刻,包括中日英韩粤语。

在视频合成方面,支持语音驱动视频,也支持文字驱动视频:

最后是重头戏:批量合成,它支持导入批量文本文件,自动生成语音并且合成数字人,这是真正提高生产力的功能。

如何学习大模型 AI ?

由于新岗位的生产效率,要优于被取代岗位的生产效率,所以实际上整个社会的生产效率是提升的。

但是具体到个人,只能说是:

“最先掌握AI的人,将会比较晚掌握AI的人有竞争优势”。

这句话,放在计算机、互联网、移动互联网的开局时期,都是一样的道理。

我在一线互联网企业工作十余年里,指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家,也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑,所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限,很多互联网行业朋友无法获得正确的资料得到学习提升,故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

在这里插入图片描述

第一阶段(10天):初阶应用

该阶段让大家对大模型 AI有一个最前沿的认识,对大模型 AI 的理解超过 95% 的人,可以在相关讨论时发表高级、不跟风、又接地气的见解,别人只会和 AI 聊天,而你能调教 AI,并能用代码将大模型和业务衔接。

  • 大模型 AI 能干什么?
  • 大模型是怎样获得「智能」的?
  • 用好 AI 的核心心法
  • 大模型应用业务架构
  • 大模型应用技术架构
  • 代码示例:向 GPT-3.5 灌入新知识
  • 提示工程的意义和核心思想
  • Prompt 典型构成
  • 指令调优方法论
  • 思维链和思维树
  • Prompt 攻击和防范
  • …

第二阶段(30天):高阶应用

该阶段我们正式进入大模型 AI 进阶实战学习,学会构造私有知识库,扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架,抓住最新的技术进展,适合 Python 和 JavaScript 程序员。

  • 为什么要做 RAG
  • 搭建一个简单的 ChatPDF
  • 检索的基础概念
  • 什么是向量表示(Embeddings)
  • 向量数据库与向量检索
  • 基于向量检索的 RAG
  • 搭建 RAG 系统的扩展知识
  • 混合检索与 RAG-Fusion 简介
  • 向量模型本地部署
  • …

第三阶段(30天):模型训练

恭喜你,如果学到这里,你基本可以找到一份大模型 AI相关的工作,自己也能训练 GPT 了!通过微调,训练自己的垂直大模型,能独立训练开源多模态大模型,掌握更多技术方案。

到此为止,大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗?

  • 为什么要做 RAG
  • 什么是模型
  • 什么是模型训练
  • 求解器 & 损失函数简介
  • 小实验2:手写一个简单的神经网络并训练它
  • 什么是训练/预训练/微调/轻量化微调
  • Transformer结构简介
  • 轻量化微调
  • 实验数据集的构建
  • …

第四阶段(20天):商业闭环

对全球大模型从性能、吞吐量、成本等方面有一定的认知,可以在云端和本地等多种环境下部署大模型,找到适合自己的项目/创业方向,做一名被 AI 武装的产品经理。

  • 硬件选型
  • 带你了解全球大模型
  • 使用国产大模型服务
  • 搭建 OpenAI 代理
  • 热身:基于阿里云 PAI 部署 Stable Diffusion
  • 在本地计算机运行大模型
  • 大模型的私有化部署
  • 基于 vLLM 部署大模型
  • 案例:如何优雅地在阿里云私有部署开源大模型
  • 部署一套开源 LLM 项目
  • 内容安全
  • 互联网信息服务算法备案
  • …

学习是一个过程,只要学习就会有挑战。天道酬勤,你越努力,就会成为越优秀的自己。

如果你能在15天内完成所有的任务,那你堪称天才。然而,如果你能完成 60-70% 的内容,你就已经开始具备成为一名大模型 AI 的正确特征了。

这份完整版的大模型 AI 学习资料已经上传优快云,朋友们如果需要可以微信扫描下方优快云官方认证二维码免费领取【保证100%免费】

在这里插入图片描述

OmniParse:AI 数据解析平台,提取和解析任何非结构化数据 OmniParse 是一个数据解析平台,能够将多种非结构化数据转换为结构化、可操作的数据,优化适用于大型语言模型(LLM)应用。 阅读详情

相关推荐

CUDA Setup failed despite GPU being available.

CUDA Setup failed despite GPU being available. Please run the following command to get more information: python -m bitsandbytes Inspect the output of the command and see if you can locate CUDA libraries. You might need to add them to your LD_LIBRARY_PATH.

qq_42681787的博客 4803

Win10(CPU)+ Anaconda3 + python3.9安装pytorch

Win10(CPU)+ Anaconda3 + python3.9安装pytorch

AAI666666的博客 2466

OmniParse:解锁生成式AI潜能的全能数据解析框架

它不仅能够从常见的文档、表格、图像、视频、音频文件中精准提取信息,还能深入网页的复杂结构,挖掘隐藏的价值。在当今信息爆炸的时代,非结构化数据如潮水般涌来,而如何有效驾驭这些数据,使之成为驱动智能应用的燃料,成为了业界亟待解决的挑战。:在隐私保护日益重要的当下,OmniParse选择在本地运行,避免了数据外传的风险,确保了敏感信息的安全性。在这里,您将发现详尽的文档、实时更新的代码库以及活跃的社区,共同探索非结构化数据的无限可能。:采用Gradio构建的用户界面,直观易用,即便是非技术用户也能轻松上手。

这里汇聚了前沿的技术分享与实用的开发技巧,带你探索从创意到企业的技术创业之路。 2648

ChatBI- ChatGPT的垂直领域思考

通过类ChatGPT对话式问答方式,实现BI工作全范围覆盖。按照BI的智能问答程度及模式,分为五大阶段,在L3阶段后,BI开始具备智能数据准备(数据建模)、数据分析及智能问答能力。目前,市场上的智能BI(AI+BI),整体上处于L2到L3的转变阶段。

zdsx1104的专栏 1万+

C# 读取图片和扫描PDF中的文本

本博客将探讨如何使用C#和OCR库实现从图片和扫描的 PDF 中提取文本。Spire.OCR for .NET 是一个OCR文字识别库,专为在 .NET 应用程序中识别图片的文本而设计。首先,使用 Spire.PDF 将扫描的 PDF 转换为图片,然后利用 Spire.OCR 从这些图片中提取文本。由于该OCR库并不支持直接处理PDF,因此要从扫描的 PDF 中提取文本,我们首先需要将 PDF 文档转换为图片。转换完成后,再利用 Spire.OCR 从生成的图片中提取文本。方法来识别图片中的文本。

nuclear2011的博客 5403

数字IC后端设计实现 | PR工具中到底应该如何控制density和congestion?(ICC2&Innovus)

数字IC后端设计实现中到底应该如何控制cell density和congestion?(ICC2和Innovus两种解决方案)

weixin_37584728的博客 7113

chatbi 探索& 多款开源AI chatbi产品解析

chatbi 探索& 多款AI chatbi产品解析

caicongyang 3113

[网络安全提高篇] 一一九.恶意软件动态分析经典沙箱Cape的安装和基础用法详解

这是作者网络安全自学教程系列,主要是关于安全工具和实践操作的在线笔记,特分享出来与博友们学习,希望您喜欢,一起进步。前文详细介绍恶意代码静态分析经典工具Capa的基础用法,以及批量提取静态特征和ATT&CK技战术,主要是从提取的静态特征Json文件中提取关键特征。这篇文章将详细讲解动态分析沙箱Cape,其是一个开源的自动恶意软件分析系统,通过自动运行和分析恶意软件,全面分析和提取恶意软件的关键特征。本文先介绍Cape沙箱的安装和基础用法,后续随着深入再分享。基础性文章,希望对您有帮助!

杨秀璋的专栏 1万+

ChatBI开源实现: 基于SuperSonic的AI+BI的产品设计

主角的精湛演技提升了作品的艺术高度,而工程化的精妙则稳固了作品的坚实基础。合理评估手中的筹码,保持积极的心态,在牌局明朗之际,我们仍将坚守在牌桌上,才有资格争取最后的胜利。企业级特性完善:安全(可扩展的4A、原生支持多层级细粒度的数据权限)、准确(基于语义模型-headerless bi理念的设计,有助于为大模型提供更准确的业务知识)权限设计:功能权限(菜单权限、助手权限)、数据权限(数据集、语义模型、行权限、列权限)3、生态集成:更多数据源、更多大模型、更多语义模型、更多数据工程生态;

zdsx1104的专栏 8824

扩散模型中的UNET

一、为什么UNET模型可以用于去噪网络 二、扩散模型中的UNET是一个条件去噪网络,怎么实现的 三、UNET用于分割和用去去噪的区别

m0_37737957的博客 3819

OpenStack [ compute_id ] 设计上的小缺陷

而 nova 代码中硬编码(或默认配置)将 compute_id 放在 site-packages 目录,属于 设计上的小缺陷—— 把 “库安装目录” 和 “运行时数据目录” 混在一起了,才导致需要临时调整这个目录的权限。# 配置项说明:node_identity_file 是 nova 用于指定节点标识文件路径的官方配置项,优先级高于代码中的默认路径。自定义 compute_id 路径,指向 /var/lib/nova/ 目录下的 compute_id 文件;

求知若渴,虚心若愚。 491

Burrow监控配置详解:从零开始设置邮件和HTTP告警

Burrow是一款强大的Kafka Consumer Lag监控工具,能够帮助开发者实时追踪消费者组的延迟情况并及时触发告警。本文将详细介绍如何配置Burrow的邮件和HTTP告警功能,让你轻松掌握从基础设置到高级自定义的全过程。 ## 一、准备工作:安装与基础配置 在开始配置告警前,请确保你已经成功安装Burrow。如果尚未安装,可以通过以下命令克隆官方仓库: ```bash git cl

gitblog_00025的博客 3197

【通信协议】GATT 与 BLE HID 工作原理详解

详细介绍BLE HID 跟GATT工作原理与两者的交互关系

以实战经验介绍行业知识 844

OmniParser

作者进一步探究了OmniParser在层次化文字检测任务[9]上的表现,如图3所示,从左至右分别为单词、文字行和段落级别的检测粒度,可以看到OmniParser可以准确的区分出不同层次的文字粒度信息,这仅需要针对该任务将结构化中心点序列进行相应的改造适配,模型其他部分并不需要过多改动,即可实现对新任务的高效迁移。本文提出了一种面向文字图像的统一解析框架,将OCR多个核心任务进行了形式上的统一,同时展现出对于其他OCR任务如层次化文字检测的泛化能力,对于开发OCR领域的统一大模型又近了一步。whaosoft

whaosoft143ai的博客 2002

【GRASS GIS零基础入门教程】2.1:初识GRASS GIS软件

GRASS GIS是一个强大的计算引擎,用于栅格、矢量和地理空间处理。它支持地形和生态系统建模、水文、数据管理和图像处理。通过内置的时态框架和Python API,它可以进行高级时间序列分析和快速地理空间编程,并针对各种硬件配置的大规模分析进行优化。

智慧空间实验室 848

MFC实现简单UDP通信(附完整源码)

MFC实现简单UDP通信(附完整源码)

希望我的博客,能帮上你解决学习中工作中所遇到的问题 1112

免费开源ChatBI选型指南:2025年主流工具全景对比与落地建议

免费开源ChatBI,免费是不是最好的?

qq_29061315的博客 8845

LinePhone3.2.7(android端最新版本) sip客户端

SIP客户端For android:LinePhone3.2.7(最新版本),官网地址:http://www.linphone.org/

思通舆情 是一款开源免费的舆情系统 介绍

思通舆情 是一款开源免费的舆情系统。支持本地化部署,支持在线体验。支持对海量舆情数据分析和挖掘。无论你是使用者还是共同完善的开发者,欢迎 pull request 或者 留言对我们提出建议。您的支持和参与就是我们坚持开源的动力!请或者!

好好学电脑 6139

精雕软件(JDpaint) 5.5 绿色版

精雕软件(JDpaint) 5.5 绿色版精雕软件(JDpaint) 5.5 绿色版精雕软件(JDpaint) 5.5 绿色版

汉书HE8,好用的汇编代码编写工具

汉书HE8,好用的汇编代码编写工具早期编写汇编代码所用功能强大

【免费下载】 探索未来舆情——推荐开源项目:思通舆情

探索未来舆情——推荐开源项目:思通舆情 项目简介 思通舆情是一款强大的、完全开源的舆情管理系统,专为实时监测、分析和管理全网舆情而设计。它提供了全面的数据采集、智能预警和深度分析功能,旨在帮助企业和组织准确把握公众舆论趋势,迅速做出决策。无论你是技术专家还是新手,都能轻松参与到这个项目中来,一起打造更高效的舆情管理工具。 项目技术分析 思通舆情的技术堆栈十分先进,采用MySQL作为数据库存储,El...

gitblog_00033的博客 2531

VB摄像头监控

该VB模块可对摄像头捕获的画面进行录像等,可在创建的窗口进行控制

WIN下使用 bitsandbytes 出现 CUDA Setup failed despite GPU being available.错误

今天玩一个开源项目时出现需要安装bitsandbytes 包,但是安装好后出现下面的报错。找了很多帖子,试了一些方法。

2303_79001442的博客 5366

OmniParse,数据整理的神器

处理数据很有挑战性,因为数据有不同的形状和大小。OmniParse 旨在成为一个摄取/解析平台,您可以在其中提取任何类型的数据,例如文档、图像、音频、视频和 Web 内容,并获得最结构化、最可操作且对 GenAI (LLM) 友好的输出。,将其转换为针对 GenAI (LLM) 应用程序优化的结构化、可操作数据。无论您处理的是文档、表格、图像、视频、音频文件还是网页,OmniPars。e 都可以将您的数据准备得干净、结构化,并可用于 RAG。4.表格提取、图像提取/字幕、音频/视频转录、网页抓取。

具身机器人和通用AI 1491

手把手教你搭建自己的AI智能体(史上最全教程)

智能体简介会在首页以及名片页展示,需要简洁明了的介绍智能体用途。用第三人称的角度去说明你的智能体可以解决哪个问题,比如,输入一个课程题目为你生成课程大纲、说出一个主题为你生成一段脚本等。

2401_84205765的博客 4323

复现qlora 微调bloom7b时的环境配置,出现CUDA Setup failed despite GPU being available.

其中,bitsandbytes 安装0.39.0 出现:CUDA Setup failed despite GPU being available. Please run the following command to get more information。其他库的版本参考上面列表,其中安装accelerate 后需要卸载一个pip uninstall nvidia_cublas_cu11。

samoyan的博客,记录技术成长~ 3460

最近,大模型岗位爆了。。。

重磅消息,国资委打响了国内AI第一枪!这意味着传统行业又迎来了一次大洗牌,现在国内头部人工智能公司已经开始用AI数字人助力各行各业,除此之外,知名大厂也都在布局AI市场。懂的程序员年薪已经翻到风口之下,与其焦虑被行业淘汰,不如先人一步掌握 AI 大模型技术。为帮助大家提升竞争力,为了帮助普通程序员享受时代红利,

qq_46094651的博客 1017

AI 的本地部署与自主训练全流程指南

### 《AI的本地部署与自主训练全流程指南》摘要 本文系统解析AI本地部署与自主训练的完整路径。从硬件(CPU/GPU配置)与软件(Python框架搭建)环境准备入手,详述数据收集、清洗、标注及划分的全流程处理方法,结合金融反欺诈、电商推荐等实际案例,说明如何根据任务类型选择模型(如CNN、Transformer)并优化超参数。通过PyTorch训练手写数字识别模型等实操场景,演示模型训练、评估及部署至本地服务器的关键步骤,同时针对硬件资源不足、模型过拟合等常见问题提供解决方案,助力读者掌握从环境搭建

2301_78846431的博客 1万+
上一篇: 微调框架Llama-factory和Unsloth:应该选择哪个?
下一篇: 多模态大模型综述
Python_金钱豹
博客等级 码龄5年 1万+粉丝 2839原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值