- 博客(501)
- 资源 (8)
- 收藏
- 关注
RSS订阅原创 Qwen3 大模型开发实战指南（五）：基于lama.cpp 轻量本地部署，灵活又便捷
在前文中，我们介绍了如何利用 Ollama 在本地快速部署 Qwen3 模型，并实现高效的推理服务。Ollama 以其极简的部署方式和出色的跨平台兼容性，为用户提供了便捷的本地运行体验。然而，对于一些追求极致性能和轻量级部署的用户来说，可能需要一种更加底层、更加灵活的解决方案。在这种情况下，`llama.cpp` 便成为了理想的选择。本文将详细介绍如何基于 `llama.cpp` 在本地部署 Qwen3 模型，并实现高效、轻量级的推理服务。
2025-06-09 08:00:00
3
原创 【AI大模型前沿】VITA-Audio：腾讯开源的高效语音交互多模态大语言模型
VITA-Audio是一个面向高效大规模语音语言模型的端到端大语言模型，能够快速生成音频-文本标记。它通过引入轻量级的多模态交叉标记预测（MCTP）模块，在单次模型前向传播中高效生成多个音频标记，不仅加速了推理过程，还显著降低了流式场景下生成首个音频的延迟。
2025-06-08 08:00:00
439
1
原创 【AI大模型前沿】DianJin-R1：阿里云通义点金联合苏大推出的金融推理增强大模型
DianJin-R1 是阿里云通义点金团队联合苏州大学推出的一个面向金融领域的推理增强框架，通过推理增强监督和强化学习提升金融推理任务的表现，为金融领域带来了全新的解决方案。其核心是 DianJin-R1-Data 数据集，整合了 CFLUE、FinQA 和专有的中国合规检查（CCC）数据集，涵盖多种金融推理场景。
2025-06-07 08:00:00
690
2
原创 Qwen3 大模型开发实战指南（四）：基于Ollama 极简本地部署，轻松搞定
在大型语言模型的本地部署领域，Ollama 以其极简的部署方式和出色的跨平台兼容性脱颖而出。对于希望在本地快速运行 Qwen3 模型的用户来说，Ollama 是一个理想的选择。本文将详细介绍如何利用 Ollama 在本地部署 Qwen3 模型，并实现高效的推理服务。
2025-06-06 15:07:55
368
33
原创 【GitHub开源AI精选】ebook2audiobook：AI驱动的电子书转有声书利器，支持1107种语言+语音克隆
**ebook2audiobook** 是一个开源项目，旨在将电子书（eBooks）转换为有声书（audiobooks）。该项目利用先进的文本到语音（Text-to-Speech, TTS）技术，将电子书中的文本内容自动转换为语音，生成可供用户收听的有声书。它支持多种电子书格式，如 EPUB、PDF、MOBI 等，并能够保留章节结构和元数据，使生成的有声书更加易于导航和理解。
2025-06-06 08:00:00
747
16
原创 Qwen3 大模型开发实战指南（三）：基于GLang 快速推理，服务部署快人一步
随着人工智能技术的飞速发展，大型语言模型（LLM）和视觉语言模型（VLM）在自然语言处理（NLP）领域扮演着越来越重要的角色。然而，这些模型的高效推理和部署一直是技术难题。Qwen的SGLang框架为这一问题提供了高效的解决方案。本文将详细介绍SGLang框架的功能特点、环境配置、API服务部署以及优化技巧，帮助读者快速掌握如何利用SGLang实现高效推理和模型部署。希望通过本文的介绍，读者能够更好地理解和应用这一强大的工具。
2025-06-05 15:54:07
302
19
原创 Embodied-Reasoner：AI界的多面手，视觉搜索、推理、行动协同出击
**Embodied-Reasoner** 是由浙江大学、中科院软件所和阿里巴巴达摩院等机构联合提出的一个开源的多模态具身模型。它能够将深度推理能力扩展到具身交互任务中，处理复杂的具身任务，例如在 AI 2-THOR 模拟器中搜索隐藏物体、操纵和运输物品等。该模型通过整合视觉搜索、深度推理与动态规划能力，显著提升了具身任务的执行效率与成功率，甚至超越了 OpenAI 的 o1 和 GPT-4o 等先进模型。Embodied-Reasoner 不仅能够自主观察环境、探索房间并找到隐藏物体，还能通过深度推理解决
2025-06-05 08:00:00
1444
32
原创 Qwen3 大模型开发实战指南（二）：基于vLLM 高效推理，性能飙升
随着人工智能技术的飞速发展，大语言模型（LLM）在自然语言处理领域的重要性日益凸显。然而，如何高效地部署这些模型以满足实际应用需求，成为了许多开发者和企业面临的关键问题。vLLM 是一种专门为大语言模型设计的高效部署框架，它不仅支持高性能推理，还提供了丰富的功能特性，使得部署过程变得简单且高效。本文将详细介绍如何使用 vLLM 部署 Qwen 模型，并提供实用的操作指南和最佳实践，帮助读者快速上手并优化模型部署。
2025-06-04 16:15:23
674
3
原创 Qwen3 大模型开发实战指南（一）：基于Transformers 推理全攻略，开启智能应用大门
本文将以**Hugging Face Transformers库**为核心工具，深入解析Qwen3模型的推理部署全流程。通过完整的代码示例和性能优化技巧，帮助开发者快速掌握从环境搭建、模型加载到交互式推理的全链路技术，为构建垂直领域智能应用奠定基础。
2025-06-04 08:00:00
433
41
原创 【AI大模型前沿】Aero-1-Audio：Qwen2.5架构加持，轻量级音频模型天花板、吊打Whisper【稳跑+低资源】
随着语音助手、会议转写、实时翻译等音频处理应用的普及，市场对轻量级、高性能的音频模型的需求日益增长。传统的音频处理模型往往面临参数庞大、计算资源消耗高、难以实时处理长音频等问题。为了解决这些挑战，LMMs-Lab 团队推出了一款名为 Aero-1-Audio 的轻量级音频模型。该模型不仅在参数规模上实现了高效性，还在多个音频处理任务中表现出色，尤其是在长音频处理和语音识别方面。
2025-06-03 15:36:14
1856
40
原创 【AI大模型前沿】TTRL：测试时强化学习，开启无标签数据推理新篇章
TTRL（Test-Time Reinforcement Learning）是一个开源项目，旨在探索在不具备显式标签的数据上进行推理任务的大规模语言模型（LLMs）的强化学习（RL）。该项目的核心在于，在推理过程中无法访问真实标签信息时，如何对奖励进行有效估计。
2025-06-03 08:00:00
1030
3
原创 【AI大模型前沿】TinyLLaVA-Video-R1：北航开源视频推理模型、小尺寸大智慧、参数少一半，性能翻一番
**TinyLLaVA-Video-R1** 是一款基于 TinyLLaVA-Video 框架的小尺寸视频推理模型，由北京航空航天大学的研究团队开发。该模型通过强化学习提升推理能力，同时保持了模型参数量不超过 4B。
2025-06-02 19:21:41
1157
10
原创 【AI大模型前沿】阿里巴巴开源LHM：单图生成可动画3D人体模型，开启3D建模新纪元
LHM是由阿里巴巴通义实验室推出的从单张图像重建可动画化3D人体模型的开源项目。基于多模态Transformer架构，融合3D几何特征和2D图像特征，LHM能够快速生成高质量的可动画化3D人体模型，适用于AR/VR等沉浸式应用。该模型在几秒钟内即可完成从单张图像到3D可动画化模型的转换，无需复杂的后处理。
2025-06-02 08:00:00
993
7
原创 【AI大模型前沿】Dia：Nari Labs开源16亿参数TTS模型，只需文本输入，生成媲美真人对话的语音
Dia 是由 Nari Labs 开发的一个开源文本转语音（TTS）模型，拥有 16 亿参数。该模型能够直接从文本脚本生成高度逼真的对话语音，支持多说话者标记、情感语调控制以及非语言提示（如笑声、咳嗽声等），并通过语音克隆功能生成与特定音频相似的声音。
2025-06-01 08:00:00
901
9
原创 【AI大模型前沿】SkyReels-V2：昆仑万维开源的无限时长电影生成模型，开启视频生成新纪元
SkyReels-V2 是昆仑万维 SkyReels 团队推出的无限时长电影生成模型，基于扩散强迫（Diffusion Forcing）框架，结合多模态大语言模型（MLLM）、多阶段预训练、强化学习等技术，生成高质量、无限时长的视频内容。
2025-05-31 08:00:00
1569
6
原创 【2025具身智能大模型·系列14】VPP：清华与星动纪元联合打造的机器人界的超能陆战队，家庭、工业、医疗样样精通
`VPP（Video Prediction Policy）是清华大学和星动纪元联合推出的首个AIGC机器人大模型，旨在通过预训练的视频扩散模型学习互联网上的大量视频数据，直接预测未来场景并生成机器人动作。`VPP的核心优势在于其能够提前预知未来场景，支持高频预测与动作执行，并且可以跨人形机器人本体切换，显著降低了对高质量机器人真机数据的依赖。
2025-05-30 15:00:00
994
3
原创 【2025具身智能大模型·系列13】Infinite Mobility：上海 AI Lab 推出的可交互物体生成模型，高效助力机器人仿真训练
Infinite Mobility 是上海 AI Lab 推出的可交互物体生成模型，基于程序化生成技术，能够高效生成高质量的可交互物体数据资产 。该模型支持 22 类常见可交互物体的生成，单个物体生成仅需约 1 秒，生成数量无上限。
2025-05-30 08:00:00
1146
50
原创 【2025具身智能大模型·系列12】Aether：上海 AI Lab 开源的生成式世界模型，探索三维时空建模与智能决策新境界
Aether 是上海 AI Lab 开源的一个生成式世界模型，完全基于合成数据训练。它首次将三维时空建模与生成式建模深度融合，具备 4D 动态重建、动作条件视频预测和目标导向视觉规划三大核心能力。
2025-05-29 15:58:45
1374
3
原创 Kimi-VL 专家混合视觉语言模型（五）：基于LLaMA-Factory 微调实战指南
随着大型语言模型（LLM）的不断发展，越来越多的开发者和研究者开始关注如何针对特定任务或领域对这些模型进行微调。LLaMA-Factory 作为一个高效、统一的微调框架，支持对 100 多种语言模型和视觉语言模型（VLM）进行微调。本文将详细介绍如何基于 LLaMA-Factory 微调 Kimi-VL 模型，包括环境准备、数据集整理、微调配置以及训练过程等关键步骤，帮助读者快速上手并实现对 Kimi-VL 模型的定制化微调。
2025-05-29 08:00:00
918
3
原创 Kimi-VL 专家混合视觉语言模型（四）：基于 Kimi-VL 打造多模态智能对话助手
随着人工智能技术的飞速发展，对话助手在众多领域发挥着越来越重要的作用。Kimi-VL 作为一个强大的多模态对话模型，为我们搭建智能对话助手提供了有力的支持。本文将详细介绍基于 Kimi-VL 构建对话助手的全过程，包括环境准备、模型下载、应用搭建与部署等关键步骤，帮助读者快速上手并打造属于自己的智能对话助手。
2025-05-28 15:26:56
1288
4
原创 Kimi-VL 专家混合视觉语言模型（三）：基于vLLM 部署推理实战指南
本文介绍了Kimi-VL视觉语言模型基于vLLM框架的推理部署实践。vLLM通过PagedAttention机制有效提升大模型推理效率，支持多GPU并行计算。文章详细展示了vLLM的安装步骤（pip install vllm）和本地离线部署代码示例，包括模型加载、图像处理及推理生成过程。示例代码演示了如何加载Kimi-VL-A3B-Instruct模型，处理图像输入，并生成多模态响应。输出日志显示了模型初始化、配置加载等关键步骤，验证了vLLM在保障数据安全性和离线环境可用性方面的优势。该方案适用于金融、医
2025-05-28 08:00:00
984
44
原创 Kimi-VL 专家混合视觉语言模型（二）：基于Transformers推理实践大全
为了帮助大家快速上手并实际使用 Kimi-VL 模型，本文将聚焦于如何利用 Hugging Face Transformers 库进行推理实践。通过详细的环境准备和代码示例，大家将能够轻松地在自己的项目中集成 Kimi-VL，体验其强大的多模态处理能力。
2025-05-27 16:00:30
1130
6
原创 Kimi-VL 专家混合视觉语言模型（一）：多模态全景概览
Kimi-VL是由月之暗面开源的一款轻量级多模态视觉语言模型，采用专家混合架构（MoE）和MoonViT视觉编码器，支持图像、视频、文档等多种输入形式。该模型在128K长上下文处理、复杂推理任务中表现优异，超越GPT-4o等主流模型。技术架构包含视觉编码器、MLP投影层和MoE语言解码器，通过多阶段训练（预训练、联合训练、强化学习等）优化性能。Kimi-VL提供两个版本：A3B-Instruct（高效推理）和A3B-Thinking（复杂推理），适用于智能客服、教育辅导、医疗辅助等场景。相关资源已在GitH
2025-05-27 07:59:10
826
51
原创 大模型之Spring AI实战系列（十九）：Spring Boot + 智谱AI 一站式开发指南，带你玩转大模型
随着国产大模型的快速发展，越来越多的企业开始关注如何将本地大模型集成到 Spring 生态中。本文将详细介绍如何使用 Spring AI 快速集成 [智谱AI](https://open.bigmodel.cn/) 的 GLM 系列模型
2025-05-26 15:00:00
976
11
原创 大模型之 Spring AI实战系列（十八）：Spring AI Tools 进阶实战——深度集成 RESTful API 联通外部服务
在企业级 AI 应用中，大语言模型（LLM）不仅仅是“回答问题”的工具，更是**业务流程的智能中枢**。为了实现真正的自动化与智能化操作，LLM 需要能够主动调用后端系统的接口来完成实际任务。例如：- 查询用户订单信息- 创建新订单或提交表单- 调用快递状态查询接口- 触发审批流程等这些功能通常都封装在企业的 **RESTful API** 中。为了让 LLM 理解并自动调用这些接口，我们需要将它们封装为 Spring AI 可识别的 **工具类（Tools）**。
2025-05-26 08:00:00
1095
50
原创 大模型之 Spring AI实战系列（十七）：Spring AI Tools 高级技巧——异步调用、事务控制与错误处理攻略
在前两篇文章中，我们已经掌握了如何创建基础的 `DateTimeTool` 和 `WeatherTool`、`UserQueryTool` 等自定义工具，并通过 `ChatClient` 调用它们。但在实际项目中，仅仅实现功能是不够的，我们还需要考虑性能、稳定性、异常处理等高级开发需求。
2025-05-25 08:00:00
851
8
原创 大模型之 Spring AI实战系列（十六）：Spring AI Tools 初级开发——解锁天气查询与数据库操作工具
在上一篇文章中，我们已经学习了如何创建第一个可调用工具 `DateTimeTool`，并使用 `ChatClient` 调用它来获取当前时间。本篇文章将带你深入实践，构建两个更贴近真实业务场景的工具：天气查询工具（WeatherTool）和 数据库查询工具（UserQueryTool）
2025-05-24 08:00:00
2195
5
原创 大模型之 Spring AI实战系列（十五）：Spring AI Tools 初体验——搭建首个可调用工具
在当前的 AI 应用开发中，一个关键的能力是让大模型具备“调用外部工具”的能力。Spring AI 提供了对工具调用（Tools）的原生支持，允许开发者将业务逻辑封装成工具，并通过自然语言提示词（Prompt）驱动模型自动选择并执行这些工具。本文将带你从零开始，一步步构建一个简单的 `DateTimeTool` 工具类，并通过 `ChatClient` 接口调用它，实现获取当前时间的功能。
2025-05-23 15:00:00
995
8
原创 大模型之Spring AI实战系列（十四）：Spring Boot + OpenAI 支持多个 Tool 的插件化调用实践
在上一篇文章中，我们学习了如何通过 `Tool Calling` 技术让 LLM 调用外部函数获取当前时间信息。本文将继续深入 Spring AI 的工具调用能力，介绍**如何实现多个工具方法的注册与调用**，并通过实际示例展示 LLM 如何根据语义判断并调用合适的工具。
2025-05-23 08:00:00
1561
1
原创 大模型之Spring AI实战系列（十三）：Spring Boot + OpenAI 基于 Tool Calling 实现单个外部工具调用
在上一篇文章中，我们学习了如何基于 RAG 架构构建一个私有知识问答系统。本文将继续深入 Spring AI 的能力，介绍**如何使用 `Tool Calling` 实现插件化功能调用**。我们将基于下面示例项目，演示如何通过自定义工具类扩展大语言模型的能力，使其能够调用外部函数获取实时信息（如当前时间），从而解决传统 LLM 无法访问外部世界的问题。
2025-05-22 15:45:56
898
3
原创 大模型之Spring AI实战系列（十一）：Spring Boot + OpenAI 集成本地向量数据库Chroma
在前面的文章中，我们已经学习了如何使用 Spring AI 构建基础聊天服务、流式对话、上下文记忆、角色设定、动态提示词模板、结构化输出、语音识别与合成、图像生成等能力。本文将聚焦于**向量数据库（VectorStore）** 的集成与使用。我们将基于 `spring-ai-openai-vectorStore` 示例项目，并结合本地部署的 [Chroma](https://docs.trychroma.com/) 向量数据库，详细介绍如何通过 Spring AI 集成 Chroma 、
2025-05-22 08:00:00
6062
46
原创 大模型之Spring AI实战系列（十二）：Spring Boot + OpenAI 构建基于RAG的智能问答系统
在上一篇文章中，我们详细介绍了如何使用 Chroma 向量数据库进行文档的向量化存储与语义检索。本文将在此基础上，进一步讲解**RAG（Retrieval-Augmented Generation）架构的实现原理与工程实践**。我们将基于 `spring-ai-openai-rag` 示例项目，演示如何通过 Spring AI 集成 RAG 架构，实现一个完整的**私有知识问答系统**。
2025-05-21 17:25:46
1528
26
原创 【AI大模型前沿】MedReason：大规模医学推理数据集、借用知识图谱将大模型打造成医术专家
MedReason是由美国加州大学圣克鲁斯分校（UC Santa Cruz）、加拿大不列颠哥伦比亚大学（University of British Columbia）、新加坡南洋理工大学（Nanyang Technological University）等机构联合推出的一个医学推理数据集。`该项目旨在通过知识图谱（Knowledge Graphs）引导的方式，为大型语言模型（LLMs）生成高质量的医学推理步骤，从而提升其在医学领域的推理能力和准确性。
2025-05-21 08:00:00
1776
49
原创 【AI大模型前沿】HuatuoGPT-o1-7B：中英文双语医学推理，打破语言障碍的AI大模型
HuatuoGPT-o1-7B 是基于 Qwen2.5-7B 架构构建的医学大语言模型，它不仅支持中英文双语，还通过两阶段训练方法显著提升了医学推理任务的表现。
2025-05-20 15:36:03
1138
1
原创 【AI大模型前沿】MiniMind-V：低成本打造超小多模态视觉语言模型（仅需1.3元人民币和1小时）
MiniMind-V是一款超小型多模态视觉语言模型（VLM），由开发者jingyaogong开源，旨在以极低成本（仅需1.3元人民币和1小时）从零开始训练，支持图像识别、对话和多模态推理。其最小版本参数规模为26M，体积仅为GPT-3的1/7000，适合个人GPU快速训练和推理。MiniMind-V基于Transformer架构，采用混合专家（MoE）技术，具备强大的多模态处理能力，能够同时处理文本和图像等多种模态的信息。应用场景包括图像识别与描述、视觉问答系统、智能客服和视频理解等。
2025-05-20 08:00:00
1062
40
原创 【AI大模型前沿】MoCha：端到端对话角色视频生成模型、电影级对话角色合成黑科技、重新定义动画创作
Meta与滑铁卢大学联合开发的MoCha模型在对话角色视频生成领域取得了显著突破。该模型基于扩散变换器（DiT）架构，采用语音-视频窗口注意力机制和联合训练策略，能够根据文本或语音输入生成带有同步语音和自然动作的完整角色动画。MoCha的核心功能包括语音驱动角色动画生成、文本驱动角色动画生成、全身动画生成和多角色轮番对话生成。其技术创新在于端到端训练无需辅助条件、语音-视频窗口注意力机制、多角色对话生成的突破以及联合训练策略的优势。
2025-05-19 16:29:22
1593
21
原创 【AI大模型前沿】F5R-TTS：腾讯出品、又快又准又自然、零样本语音克隆新高度
F5R-TTS 是腾讯推出的一款基于流匹配技术的文本到语音（TTS）系统，通过集成强化学习算法，显著提升了语音合成的清晰度和说话人相似度。该系统采用梯度奖励策略优化（GRPO）技术，将流匹配模型的确定性输出转化为概率性高斯分布，实现了强化学习的无缝集成。F5R-TTS 在零样本语音克隆任务中表现出色，词错误率（WER）相对减少29.5%，说话人相似度（SIM）得分相对增加4.6%。此外，该系统支持多语言合成、情感控制和速度调整，适用于语音克隆、有声读物生成、情感语音合成及智能设备等场景。
2025-05-19 08:00:00
1025
23
原创 【GitHub开源AI精选】UFO²：微软开源的 Windows 桌面 Agent 操作系统，开启智能自动化新时代
微软推出的UFO²是一款面向Windows桌面的多智能体操作系统，旨在通过深度系统集成和自然语言交互实现复杂桌面任务的自动化。UFO²采用多智能体架构，由中央HostAgent和多个应用专用的AppAgent组成，显著提升了任务执行的效率和鲁棒性。其混合控制检测技术结合了Windows UI Automation APIs和视觉检测模型，确保在各种UI环境中准确操作。此外，UFO²通过统一GUI/API动作层和持续知识整合技术，优化了任务执行路径并动态提升智能体的学习能力。
2025-05-18 18:00:08
1920
38
原创 大模型之Spring AI实战系列（十）：Spring Boot + OpenAI 使用 DALL·E实现文本生成图像功能
在前面的文章中，我们已经学习了如何使用 Spring AI 构建基础聊天服务、流式对话、上下文记忆、角色设定、动态提示词模板、结构化输出、语音识别与合成等能力。本文将聚焦于**多模态 AI 能力中的图像生成部分**。我们将基于 `spring-ai-openai-image` 示例项目，详细介绍如何通过 Spring AI 集成 OpenAI 的 [DALL·E]模型，根据自然语言描述生成高质量图像，并演示其在不同分辨率、模型版本和生成参数下的应用效果。
2025-05-18 08:00:00
1518
18
原创 大模型之Spring AI实战系列（九）：Spring Boot + OpenAI 使用TTS实现文本转语音功能
在前面的文章中，我们已经学习了如何使用 Spring AI 构建基础聊天服务、流式对话、上下文记忆、角色设定、动态提示词模板、结构化输出以及语音转文字等功能。本文将聚焦于**文本转语音（Text to Speech, TTS）**的实现。我们将基于 `spring-ai-openai-textToSpeech` 示例项目，详细介绍如何通过 Spring AI 集成 OpenAI 的 TTS 模型（tts-1），实现文本到音频的转换，并演示其在不同声音、格式和语速配置下的应用效果。
2025-05-17 16:00:00
1319
6
各领域行业ChatGPT Prompt提示词大全
2024-06-05
CVP架构的企业级知识库落地
2024-05-26
面试必备十五问，面试难题预先知
2010-07-11
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人