llama_AIGC博客-专业IT技术发表平台

推荐付费专栏 VIP文章

一文通透OpenVLA——在Prismatic VLM(SigLIP、DinoV2、Llama 2)的架构上：基于“下一个token预测技术”预测离散化动作一个多月前，有朋友曾说，一个月内，π0 会开源来着，当时虽然觉得不太可能，但还是抱着期待可还是没开..没开源必然是有点遗憾，故这两天我一直在考虑、对比，看目前哪个vla最逼近π0，然后借鉴π0的思路，去改造该vla前两天又重点看了下openvla，和cogact，然后对此文增加了不少解读内容，且发现总之，各种vlm + 各种动作预测头/方法，会出来很多vla。

阅读 1.2w

36赞

【手把手从零实现】Qwen2.5-VL：环境配置/功能实验（图片识别理解、目标检测、文字OCR、文档解析、视频理解）/模型微调(MS-Swift 和 LLaMA-Factory) Qwen2.5-VL（阿里通义千问最新视觉语言家族）在图像理解、检测框、OCR、表格解析、视频理解等方面给出“开箱即用”的接口，3B 模型就很能打。本博客介绍Qwen2.5-vl的使用和微调等。

阅读 2.6k

28赞

llama3 微调教程之 llama factory 的安装部署与模型微调过程，模型量化和gguf转换。本文记录了从环境部署到微调模型、效果测试的全过程，以及遇到几个常见问题的解决办法，亲测可用（The installed version of bitsandbytes was compiled without GPU support. NotImplementedError: Architecture ‘LlamaForCausalLM’ not supported!

阅读 2.3w

81赞

LLaMA-Factory安装教程（详细版）本机显卡双3090使用wsl中ubuntucuda==12.4python==3.12.4（python安装不做赘述，有需要我会另开一篇文章）

阅读 2.5k

18赞

基于改进Apriori算法的Web文档聚类方法研究（三）摘要：Fuzzy C-Means（FCM）是一种基于模糊理论的软聚类算法，通过隶属度概念实现数据点的多簇归属，适用于边界模糊的数据集。相比传统K-Means，FCM能更好处理文本分类、图像分割等交叉重叠场景，具有概率解释性强、抗噪能力好的优势。但存在初始值敏感、计算复杂度高、需预设簇数等局限。改进方法包括核函数映射、并行计算等。FCM在医疗影像分析、多主题文档聚类等领域展现独特价值，是处理模糊数据的重要工具。

阅读 1.3k

35赞

AI天才研究院

Llama模型在自然语言处理领域的AI原生应用实践 AI原生应用是指从设计理念到架构实现都以AI能力为核心驱动力的应用系统，而非将AI作为附加功能集成到传统应用中。核心驱动力差异传统应用：由预定义规则和确定性逻辑驱动AI增强型应用：传统架构+AI功能模块(如搜索增强)AI原生应用：以LLM为"推理引擎"，动态生成解决方案架构范式转变传统应用：模块化分层架构(数据层→业务逻辑层→表现层)AI原生应用：以提示工程(Prompt Engineering)和模型交互为核心的新型架构关键技术特征动态响应能力。

阅读 1.0k

14赞

基于 docker 的 LLaMA-Factory 全流程部署指南 LLaMA Factory 是一个简单易用且高效的大型语言模型（Large Language Model）训练与微调平台。通过 LLaMA Factory，可以在无需编写任何代码的前提下，在本地完成上百种预训练模型的微调训练。

阅读 3.3k

8赞

LLama-Factory使用教程-2025最新版训练完成后，可以融合lora参数，导出作为一个新的模型。新的训练好的模型参数结构和原来的模型（例如qwen2.5-vl）结构一致。原来的模型怎么加载，新的模型就怎么加载。可以选择预览命令查看模型训练的实际指令，输出目录可以选择默认以时间戳命名的路径，确认没问题后点“开始”即可开始训练。前置条件：一台可用的gpu服务器、ubuntu操作系统。2. 启动LLama-Factory图形化界面。1. 下载LLama-Factory。Deepseek相关课程更新中。7.融合lora参数，导出模型。

阅读 1.9k

6赞

我像影子一样

LLamaFactory如何在Windows系统下部署安装训练（保姆级教程）本文主要简述了LlamaFactory如何在Windows系统下部署安装训练（保姆级教程）

阅读 2.5k

29赞

leetcode80：删除有序数组中的重复项 II（快慢指针法） LeetCode 80题要求删除有序数组中重复出现超过两次的元素，保留最多两个重复项。核心解法是双指针（快慢指针）法。有两种实现方式：计数器辅助法：通过repeat变量统计当前元素重复次数，若不超过2则保留，否则跳过。逻辑直观但扩展性较弱。通用模板法：比较nums[fast]与nums[slow-2]，若不相等则保留（确保最多重复两次）。代码简洁且扩展性强，修改数字即可解决“保留最多K项”的通用问题。两种方法均满足O(N)时间、O(1)空间复杂度，通用模板更推荐用于类似问题。

阅读 632

20赞

墨家巨子@俏如来

LLaMA-Factory训练DeepSeek大模型+本地部署前面我们介绍了基于硅基流动训练私有大模型《10分钟教你微调自己的私有大模型》，该平台有三个不好的点就是可选的模型有限，训练时间需要排队等待耗时长，另外还要给钱。今天我们换一个平台，使用：魔搭平台 + llamaFactory训练私有模型。平台会赠送服务器时长这样我们就可以不用花钱就可以训练自己的大模型了(学习使用)

阅读 4.5k

39赞

llama-factory下使用unsloth微调DeepSeek-R1-Distill-Qwen-1.5B 【代码】llama-factory下使用unsloth微调DeepSeek-R1-Distill-Qwen-1.5B。

阅读 970

9赞

魔王阿卡纳兹

Qwen系列大模型和LlaMA系列大模型都使用的什么分词器 Qwen以字节级BPE+中文优化为核心，在压缩率、多语言支持（尤其是中文）上占据优势；LLaMA依赖SentencePiece BBPE+大规模词表，通过GQA等技术提升推理效率，但在非拉丁语系场景需额外优化。两者均通过动态扩展技术（如YARN、GQA）适应长序列需求，并在多模态领域探索跨模态分词逻辑。未来，任务自适应分词器和无损压缩算法将成为竞争焦点。

阅读 1.1k

27赞

Llama.cpp 学习记录高效、轻量的项目，用于在本地设备上运行由 Meta 开发的 LLaMA（Large Language Model Meta AI）系列大语言模型，支持在资源受限的设备（如普通的 CPU 或小型 GPU）上执行推理任务。它通过优化模型的加载方式、计算方式和内存管理，实现了无需高性能硬件即可高效运行的目标。关键字：轻量,大模型部署，嵌入式设备存放不同平台的cmake编译配置文件，如windows，apple，以及关于llama的编译配置文件，如常见的加速库，OPENMP，BLAS，CUDA等通用的工具和实用函数

阅读 1.1k

28赞

许愿与你永世安宁

基于Llama的RAG 3种模型配置方法本文介绍了三种接入大语言模型的技术方案，重点展示RAG（检索增强生成）框架的实现方法。方法一使用Llama-index技术栈，通过安装专用包实现智谱AI模型集成，包括文本读取、向量生成、存储检索和回答生成全流程；方法二通过重写OpenAI类绕过上下文长度限制，实现智谱AI的非官方接入；方法三基于Ollama平台本地部署qwen2模型，并通过API实现交互。文章详细阐述了各方案的技术实现细节，包括环境配置、模型测试、流式输出优化等关键环节，为开发者提供了灵活的大模型接入方案选择。

阅读 1.3k

39赞

Linux安装LLaMA Factory 摘要：本文介绍了如何在Linux服务器上安装Conda和LLaMAFactory。首先下载安装Conda，创建名为"lf"的Python3.10虚拟环境，可更换清华镜像源加速。然后下载LLaMAFactory源码，在虚拟环境中用pip安装依赖包，同样建议使用国内源。安装完成后，通过llamafactory-cli webui命令启动Web界面，推荐使用nohup保持后台运行。最后可通过IP:7860端口访问UI界面，完成整个安装过程。该方法通过虚拟环境管理，避免了与其他Python环境的

阅读 1.3k

18赞

AGI大模型与大数据研究院

llama 助力 AI 人工智能领域的智能化转型 AI智能化转型的核心问题可归纳为“三高一低高成本：闭源大模型的调用成本或训练成本（如GPT-4训练成本约$100M）；高壁垒：大模型训练需掌握Transformer架构、分布式训练、优化算法等复杂技术；高风险：闭源模型的“黑盒性”导致决策不可解释，数据隐私无法保障；低效率：传统深度学习模型需针对每个任务重新训练，无法迁移知识。Llama的解决方案开源降低成本：企业可免费使用Llama模型，无需支付高额调用费；模块化降低壁垒。

阅读 837

15赞

Xinference安装及部署大模型 Xorbits Inference (Xinference) 是一个开源平台，用于简化各种 AI 模型的运行和集成。借助 Xinference，您可以使用任何开源 LLM、嵌入模型和多模态模型在云端或本地环境中运行推理，并创建强大的 AI 应用，简单的讲就是部署大模型的应用，至于场景嘛，就是当我们自己使用本地模型的时候，切换起来方便。

阅读 1.9w

35赞

大模型应用场景

一文详解LLaMa系列模型：原理介绍、代码解读下图很直观的展示了旋转变换的过程：旋转编码 RoPE 可以有效地保持位置信息的相对关系，

阅读 1.1k

18赞

浩浩的科研笔记

初探—使用 LLaMA-Factory+AutoDL 0代码有监督微调 DeepSeek1.5B 流程笔记本文记录了使用 LLaMA-Factory 微调一个 DeepSeek 1.5B 的蒸馏模型的全过程，包括软件下载、插件按照、自定义数据集等过程。

阅读 2.0k

33赞

Meta Llama 4炸场！开源MoE模型登顶全球榜，单卡跑1000万token，价格打骨折 MoE架构革命：用20%算力干100%的活Llama 4首次引入MoE架构，每个token仅激活部分专家模块。例如Maverick的4000亿参数中，实际调用仅170亿，却能实现单卡运行的惊人效率。这种设计让模型像“智能路由器”，根据任务自动调度专家——写诗找文学专家，解方程找数学专家。

阅读 957

22赞

LLaMA-Factory微调入门个人重制版 LLaMA-Factory微调入门个人重制版## 说明：- 首次发表日期：2024-08-30- LLaMA-Factory 官方Github仓库： https://github.com/hiyouga/LLaMA-Factory

阅读 1.5k

4赞

作者推荐

闻道且行之: 散修程序员，接受质疑，接受批评，欢迎交流，相互学习

关注

九章云极DataCanvas: 北京九章云极科技有限公司（九章云极DataCanvas）成立于2013年，以“创造智能，探索未知”为使命，致力于推动国际领先人工智能技术在智算产业的创新应用，助力全球企业智能升级，是中国人工智能基础设施领域的领军企业。如需技术合作或业务咨询，请移步vx： alayanew

关注

Zhijun.li@Studio: 算法工程师一枚

关注

魔障阿Q: 作者可以提供各类服务如:代码编写、代码讲解、环境配置、毕设制作、工程问题解决等

关注

joexk: 点滴记录

关注

DeepDriving: 分享计算机视觉、机器学习、深度学习、自动驾驶等领域的文章

关注

小娅_l: 一个在算法道路上进修的程序猿，欢迎大家交流讨论！人生有两种选择：内在动力驱使前进，外在环境逼迫向前，你选择什么？

关注

fishjar100: 关注于AI应用开发

关注

Fuly1024: 写博客的原因，只是为了自己需要的时候方便找

关注

羊城迷鹿: 你相信魔法吗？（广东某魔法学院毕业生，欢迎私信交流最新咒语、魔药配方和炼丹秘笈）有大量大模型相关项目经验，接咨询。

关注