Liquid新模型:LFM2-24B-A2B用MoE架构重新定义大模型性价比

大疆智图002:大疆智图倾斜摄影建模流程 本文主要介绍大疆智图倾斜摄影建模流程,包括新建工程、成果路径设置、导入照片、第一遍空三、像控刺点、第二遍空三、精度报告查看、三维重建等流程。 阅读详情

大模型领域正在经历一场静默的架构革命。当行业还在参数规模的军备竞赛中厮杀时,一家来自麻省理工的初创公司正用一套截然不同的思路重新定义效率的边界。

从 MIT 走出的效率追求者

2023 年,四位来自 MIT 计算机科学与人工智能实验室(CSAIL)的研究人员决定走出象牙塔,将多年的研究成果商业化。Ramin Hasani(CEO)、Mathias Lechner(CTO)、Alexander Amini(首席科学官)和 Daniela Rus(联合创始人,MIT CSAIL 主任)共同创立了 Liquid AI。成立不过两年多,这家公司已经融资超过 2 亿美元,估值突破 10 亿美元,成为东海岸最引人注目的 AI 基础模型创业公司。

他们的投资阵容堪称豪华:GitHub 联合创始人 Tom Preston Werner、Shopify 联合创始人 Tobias Lütke、Red Hat 联合创始人 Bob Young、Breyer Capital、Samsung Next 等知名机构和天使投资人纷纷押注。这些投资人看中的,正是 Liquid AI 独特的技术路线——液态神经网络(Liquid Neural Networks,LNN),一种从秀丽隐杆线虫的神经系统中获得灵感的新型架构。

Liquid AI 的目标很明确:打造更小、更快、更省电的 AI 模型。最新发布的 LFM2-24B-A2B 是这个理念的集大成者,用看似矛盾的数据组合——240 亿总参数却只在推理时激活 23 亿——向世人展示了一种全新的可能性:小激活参数也能撑起大模型能力。

图片

液态神经网络遇上混合专家架构

要理解 LFM2-24B-A2B 的特别之处,得先拆解它的技术内核。这款模型采用了混合专家架构(Mixture-of-Experts,简称 MoE),这是一种已经被业界验证的高效训练范式。

图片

与传统密集模型每次推理都要激活全部参数不同,MoE 架构把模型拆分成多个「专家」子网络。当输入一个问题时,模型会智能地只激活最相关的几个专家,其他专家保持「休眠」状态。这种设计的精妙之处在于:模型总容量可以做得很大(存储更多知识),但实际计算量却很小(运行更省资源)。

LFM2-24B-A2B 的配置堪称教科书级别的 MoE 设计:240 亿总参数分布在 46 个专家网络中,每次前向传播只激活 2 个专家,实际参与计算的参数量仅 23 亿左右。这意味着,它的内存占用和计算开销与几十亿参数的密集模型相当,却拥有接近 240 亿参数模型的知识容量。

但 Liquid AI 的创新不止于 MoE。他们把自己标志性的液态神经网络技术也融入了架构设计中。液态神经网络的核心特点是随时间动态调整神经元之间的连接权重,这种「液态」特性让模型在处理序列数据时更加灵活高效,能够根据输入内容的复杂程度自适应地分配计算资源。

图片

令人意外的性能成绩单

参数设计再巧妙,最终还是要靠 benchmark 说话。LFM2-24B-A2B 在多项权威测试中给出的成绩,足以证明 MoE 架构不是纸上谈兵。

在衡量代码能力的 HumanEval 基准测试中,LFM2-24B-A2B 的 Pass @1 得分高达 0.92,这意味着模型在绝大多数编程任务中都能一次性给出正确答案。作为对比,许多参数量更大的传统模型在这个指标上往往只能达到 0.7 到 0.8 的水平。

在考察多语言理解的 MultiPL-E 测试中,这款模型同样表现亮眼。它的西班牙语理解准确率达到 0.88,日语 0.85,中文也有 0.82 的可观成绩。这种跨语言能力对于需要服务全球用户的产品来说,是一个不小的加分项。

更值得关注的是它的长文本处理能力。LFM2-24B-A2B 支持高达 32K tokens 的上下文窗口,在处理长文档摘要、代码库理解等任务时优势明显。测试显示,即使在上下文长度超过 20K tokens 的情况下,模型的回答准确率依然能保持在 85% 以上,衰减曲线明显比同类模型更平缓。

图片

消费级设备上的大模型体验

高性能模型往往意味着高硬件门槛,但 LFM2-24B-A2B 试图打破这个定律。

由于激活参数量只有 23 亿,这款模型的内存占用大幅降低。在 FP16 精度下运行时,它仅需约 8GB 显存就能流畅推理。这意味着,一块普通的 RTX 3060 显卡,甚至新款 MacBook Pro 的 M3 Max 芯片,都能本地运行这个 240 亿参数级别的模型。

推理速度同样令人惊喜。在单张 A100 GPU 上,LFM2-24B-A2B 的生成速度可以达到每秒 85 个 tokens;即使在消费级硬件上,也能保持每秒 25-30 tokens 的实用速度。对于需要实时交互的应用场景,比如聊天机器人、代码补全工具,这种响应速度已经完全可以满足用户体验需求。

能效比是另一个被业界忽视的维度。由于每次推理只激活约十分之一的参数,LFM2-24B-A2B 的单位 token 能耗只有同规模密集模型的 15-20%。对于需要大规模部署的企业客户来说,这意味着显著的电费节省和碳排放降低——在云算力成本居高不下的今天,这一点尤为珍贵。

不只是聊天机器人的实用能力

LFM2-24B-A2B 的能力边界远不止于对话生成。Liquid AI 在设计这款模型时,就考虑到了多样化的实际应用场景。

在代码生成领域,它支持超过 80 种编程语言,从主流的 Python、JavaScript 到相对小众的 Rust、Go 都能胜任。特别值得一提的是,它在理解复杂代码结构和跨文件依赖关系方面表现出色,这让它在大型软件项目的代码审查和重构建议场景中具有独特价值。

数学推理能力是另一块长板。在 GSM8K 小学数学应用题测试中,LFM2-24B-A2B 的准确率达到 78%,这已经接近一些专门微调过的数学专用模型。对于需要处理财务分析、工程计算等任务的企业用户,这个能力可以大大减少对多个专用模型的依赖。

多模态扩展也是 Liquid AI 布局的重点方向。虽然 LFM2-24B-A2B 主要定位在语言模型,但它的架构设计为后续融入视觉、音频等模态预留了空间。公司官方透露,未来几个月将推出支持图文理解的多模态版本,届时应用场景将进一步拓宽。

图片

效率优先的产品哲学

回顾 LFM2-24B-A2B 的设计思路,Liquid AI 的产品哲学清晰可见:他们不相信「大力出奇迹」是唯一路径,而是在追求「刚刚好」的效率最优解。

这种哲学背后是对行业痛点的深刻洞察。当前大模型领域存在一个普遍困境:模型能力越强,部署成本越高,能真正用得起的企业越少。这不仅限制了 AI 技术的普及,也在某种程度上加剧了技术鸿沟。

MoE 架构的选择正是对这一困境的回应。它证明了,通过巧妙的架构设计,完全可以在不牺牲核心能力的前提下,大幅降低模型的运行门槛。240 亿总参数保证了知识的广度,23 亿激活参数控制了计算的成本——这种「可伸缩」的设计理念,或许才是大模型走向普惠的关键。

当然,MoE 架构也并非没有挑战。专家路由机制的稳定性、不同专家之间的负载均衡、模型微调时的梯度传播等问题,都是工程实现中需要仔细处理的细节。Liquid AI 选择在 LFM2-24B-A2B 中开放 32K 上下文窗口,并在 Hugging Face 上提供完整的模型权重,某种程度上也是在邀请社区共同打磨这些技术细节。

站在行业视角来看,LFM2-24B-A2B 的发布时间点颇有深意。当 GPT-4、Claude 3 等闭源巨头在参数竞赛中一路狂奔时,开源社区正在寻找另一条道路——一条更注重效率、更易于定制、更适合私有化部署的道路。Mixtral 8x22B 已经证明了 MoE 架构在开源领域的可行性,而 LFM2-24B-A2B 则将这一思路推向了新的高度。

对于开发者来说,这款模型的意义在于提供了更多选择。你不必再为了高性能而忍受高昂的 API 账单,也不必为了省成本而牺牲模型能力。LFM2-24B-A2B 证明了,中间路线是存在的——而且走得通。

大模型的未来,或许不会只有一种形态。当效率与能力的平衡被重新校准,我们有理由期待,更多像 LFM2-24B-A2B 这样的创新将会涌现,让 AI 技术真正走进每一个角落。

社区地址

OpenCSG社区:https://opencsg.com/models/AIWizards/LFM2-24B-A2B

hf社区:https://huggingface.co/LiquidAI/LFM2-24B-A2B

关于 OpenCSG

OpenCSG 是全球领先的开源大模型社区平台,致力于打造开放、协同、可持续生态,AgenticOps是人工智能领域的一种AI原生方法论,由OpenCSG(开放传神)提出。AgenticOps是Agentic AI的最佳落地实践也是方法论。核心产品 CSGHub 提供模型、数据集、代码与 AI 应用的 一站式托管、协作与共享服务,具备业界领先的模型资产管理能力,支持多角色协同和高效复用。

ESP32-C3微型9轴感知模块的硬件工程实践 在嵌入式系统小型化趋势下,低功耗微控制器与多传感器融合成为智能终端的基础技术路径。其核心原理在于芯片能效比、射频合规性与电源噪声抑制的协同优化,技术价值体现在降低认证门槛、提升EMC鲁棒性及保障MEMS传感器精度。典型应用场景包括可穿戴设备、微型无人机姿态控制和工业边缘传感节点。本文围绕ESP32-C3平台展开,深入解析QFN封装选型逻辑、同步降压电源设计、LSM9DS1九轴校准策略等关键环节,覆盖FCC/CE认证规避、USB-C接口EMC防护等高频工程痛点。 阅读详情

相关推荐

在MacBook M1/M2上,手把手教你打包包含嵌入模型的RagFlow Docker镜像(避坑指南)

本文详细指导如何在MacBook M1/M2上构建ARM64架构的RagFlow Docker镜像,涵盖环境准备、依赖处理、镜像构建及性能优化全流程。特别针对Apple Silicon芯片的兼容性问题提供解决方案,帮助开发者高效完成本地开发环境搭建。

weixin_26908317的博客 241

2026年02月26日热门模型洞察

开源大模型生态呈现三大趋势:1)量化技术成为竞争焦点,unsloth社区推出的GGUF量化版本表现亮眼,Qwen3.5-122B-A10B-GGUF和35B-A3B-GGUF分别上升7位和5位;2)多模态能力快速普及,9个image-text-to-text模型中有7个进入前20;3)垂直领域模型面临挑战,日语、Rust代码等专用模型排名普遍下滑。榜单显示Qwen系列占据TOP10中5席,而1T参数的Kimi K2.5仍居下载榜首,反映用户对大模型能力的持续追求。量化版本虽受关注,但点赞数偏低,显示社区对其

ld326的专栏 979

航空大数据——项目资源汇总及开源(四)

ADS-B项目开源大礼包

cyc头发还挺多的博客 4978

2026年02月25日全球AI前沿动态

2026年2月25日前后,AI领域迎来模型迭代、智能体应用拓展、硬件布局升级的密集爆发期,通用大模型性能持续突破,垂直模型与专项技术落地加速,智能体安全与生态竞争凸显,同时行业面临劳动力替代、伦理合规等多重挑战,投融资与企业动态活跃,推动AI技术从研发向产业深度渗透。当前AI领域正处于技术爆发与产业变革的关键交汇点,通用大模型在性能、上下文长度、多模态能力上持续突破,垂直模型与专项技术加速落地,智能体应用从单一工具向全流程自动化演进,硬件与算力基础设施成为竞争核心。

ld326的专栏 5661

LIN总线CAPL函数实战——动态控制报文发送(linDeactivateSlot与linActivateSlot)

本文深入解析了LIN总线测试中动态控制报文发送的核心CAPL函数linDeactivateSlot与linActivateSlot的实战应用。通过详细拆解函数参数、生效范围及限制,并结合故障注入、功耗测试等实际场景的代码示例,指导测试工程师在仿真LIN主节点时,灵活调度报文发送,实现高效自动化测试。

weixin_29255731的博客 347

浅谈武术擂台格斗机器人大赛

武术擂台机器人赛是工科类专业的一个跨学科的竞赛项目,它涵盖了机械结构、硬件电路和计算机程序等技术领域。笔者在校期间有幸参加过四次这样的比赛,有成功也有失败,对此深有感悟。本文仅为个人观点,有说得不对的地方,望积极指出,希望能帮助到有需要的人。

weixin_43811044的博客 1万+

Liquid AI 推出 LFM2 混合模型:重新定义边缘设备 AI 部署标准

[![Liquid AI 标志图片](https://cdn-uploads.huggingface.co/production/uploads/61b8e2ba285851687028d395/7_6D7rWrLxp2hb6OHSV1p.png)](https://link.gitcode.com/i/af0a55e345ba8e2bf8bec091c29a0de7) 如上图所示,图片中央展示了

gitblog_00998的博客 900

Win11上从零跑通Carla自动驾驶仿真:保姆级环境配置与避坑指南(Python 3.7+)

本文详细介绍了在Win11系统上从零配置Carla自动驾驶仿真环境的完整流程,包括Python 3.7+环境搭建、依赖安装、常见问题排查及性能优化技巧。通过保姆级教程帮助开发者快速避坑,实现稳定的自动驾驶仿真测试环境部署。

weixin_33488239的博客 420

OpenCSG月度更新2026.3

OpenCSG 2026年3月动态:加速AI生态建设与技术创新 OpenCSG本月在多领域取得显著进展:推出CSGHub-Lite轻量化工具,实现PC端大模型一键运行;升级企业版功能,完善算力管理和安全沙箱能力;AgenticHub发布0.4.2/0.5.0版本,增强智能体开发体验;独家承办WAIC2026先锋挑战赛,推动AI创新;开源高质量数据集获Nature等权威引用。生态建设方面,ChineseFineWeb系列数据集持续获得学术界认可,新开源CIMD垂直行业数据集,标志从通用向行业专用数据基础设施的

OpenCSG的博客 429

PCIe 全解析笔记:从协议本质到工程实现

学习 PCIe,最容易陷入的误区是直接跳进协议手册(Base Spec 1300 多页),然后在 TLP 字段、LTSSM 状态、Ordering Rules 中迷失方向。正确的思维路径历史维度:从 PCI 到 PCIe,解决了什么核心矛盾?抽象维度:协议栈分层的真正意图是什么?工程维度:高速串行链路面临哪些物理挑战?协议如何应对?系统维度:作为 CPU 与外设的"动脉",PCIe 如何融入整个计算机体系?带着这四个视角去看每一个细节,知识才能内化为认知。

m0_46644103的博客 261

linux 基于debian/ubuntu AB系统适配(二)-updateEngine移植

其实A/B系统的原理很简单,大部分的工作都集中在uboot上,rootfs只是起到一个辅助的作用,但这个作用也就必不可少的。你会发现在这个其中并没有kernel的参与。

badbayyj的博客 1033

Liquid AI发布第二代液态基础模型LFM2:重新定义设备端AI的效率与隐私边界

2025年7月,由麻省理工学院计算机科学家创立的Liquid AI公司正式推出第二代液态基础模型(LFM2),这一突破性成果标志着设备端AI技术迎来质的飞跃。作为2023年成立的AI领域新锐力量,Liquid AI始终致力于解决大型语言模型在边缘设备部署中的效率瓶颈,而LFM2系列的问世,通过独创的"液态"架构设计,首次实现了小参数模型在性能上与云端大模型的正面竞争。 ## 架构创新:门控短卷积

gitblog_00302的博客 441

告警不是闹钟:AI 如何把告警过滤成真正的“求救信号”?

告警不是闹钟:AI 如何把告警过滤成真正的“求救信号”?

Echo_Wish 240

16种语言支持实测:LFM2.5-24B-A2B中文与多语言能力表现如何

LFM2.5-24B-A2B 是 Liquid AI 推出的 24B 参数多语言推理大模型,原生支持中文、日文、泰文等 **16 种语言**,且只需 2B 激活参数即可在本地设备高速运行。本文带你实测它的中文表现,并手把手教你用 GGUF 量化版在个人电脑上部署。 ## 一、LFM2.5-24B-A2B 是什么? 一句话概括:**总参数 24B、每 token 仅激活约 2.45B 的 MoE

gitblog_00480的博客 780

RU DOS版、EFI版32bit/64bit BIOS常用工具

DOS版、EFI版的RU工具,可用来查看IO、MEM、PCI、SMBIOS等资源。亲测在EFI SHELL下可用。

Data-Structures-and-Algorithm-Analysis-in-Java.pdf

作者: Weiss, Mark A. 出版社: Addison Wesley Data Structures and Algorithm Analysis in Java is an “advanced algorithms” book that fits between traditional CS2 and Algorithms Analysis courses. In the old ACM Curriculum Guidelines, this course was known as CS7. This text is for readers who want to learn good programming and algorithm analysis skills simultaneously so that they can develop such programs with the maximum amo...

LFM2.5-24B-A2B完全解读:24B MoE推理大模型为何只激活2B参数就能跑本地Agent

LFM2.5-24B-A2B-GGUF 是 Liquid AI 开源的 24B MoE 推理大模型的 GGUF 量化仓库,由 Unsloth Dynamic 3.0 量化而成。它的"杀手锏"是:总参数 24B、每 token 只激活约 2.45B 参数,因此在 Apple M5 Max 上能跑到 184 tok/s,成为目前最适合跑本地 Agent 的端侧大模型之一。本文将带你搞懂它的架构原理、量

gitblog_00351的博客 150

STM32F407中文手册

STM32f407中文手册 本参考手册面向应用开发人员,提供有关使用 STM32F405xx/07xx、STM32F415xx/17xx、 STM32F42xxx 和 STM32F43xxx 微控制器存储器与外设的完整信息。STM32F405xx/07xx、STM32F415xx/17xx、STM32F42xxx 和 STM32F43xxx 构成一个微 控制器系列,各产品具有不同的存储器大小、封装和外设。有关订购信息以及器件的机械与电气特性,请参见数据手册。有关 ARM Cortex™-M4F 内核的信息,请参见《Cortex™-M4F 技术参考手册》。

5分钟本地跑通LFM2.5-24B-A2B:llama.cpp快速推理完整教程

本教程带你用 llama.cpp 在 5 分钟内本地跑通 **LFM2.5-24B-A2B** 的 GGUF 量化模型——一个 24B 总参数、仅 2B 激活参数的 MoE 推理模型,速度快、隐私安全,无需显卡也能流畅运行。下文覆盖下载量化文件、硬件自查、一键启动命令与常见问题排查,新手照着做即可。 ## 一、认识 LFM2.5-24B-A2B:本地运行的 24B MoE 推理模型 **LFM

gitblog_00075的博客 734

华为的C语言编程规范.pdf

华为技术有限公司内部技术规范。本规范制定了编写C语言程序的基本原则、规则和建议。从代码的清晰、简洁、可测试、安全、程序效率、可移植各个方面对C语言编程作出了具体指导。

24B 总参为何只有 2B 激活?解读 LFM2.5-24B-A2B-GGUF 背后的 MoE 混合架构原理

LFM2.5-24B-A2B-GGUF 是 Liquid AI 新一代混合模型 LFM2.5 的 GGUF 量化版本,采用 MoE 混合专家架构:24B 总参数,但推理每个 token 只激活约 2B 参数。这篇指南带你通俗理解 MoE 混合架构原理,并覆盖 7 种量化版本的选型、显存需求和 llama.cpp 快速上手命令。 ## 一、拆解命名:24B 与 A2B 分别指什么? 模型名字本身

gitblog_01041的博客 67

LFM2.5-24B-A2B高速推理实战:vLLM + 128K长上下文 + 多GPU并行配置

LFM2.5-24B-A2B-Preview 是 Liquid AI 推出的 24B 参数 MoE 推理模型,每个 token 仅激活约 2.45B 参数,原生支持 128K 长上下文,专为本地高速推理与 Agent 场景设计。本文手把手带你用 vLLM 完成一键部署、128K 长上下文调优和多 GPU 并行配置,让这台"24B 大脑"跑出 MoE 级别的速度。 ## 一、模型速览:24B 参数

gitblog_00973的博客 1025

多语言大模型实测:LFM2.5-24B-A2B-Preview-5bit 中文表现如何?10 种语言横向评测

本文实测 **LFM2.5-24B-A2B-Preview-5bit** 这款多语言大模型(MoE 架构、24B 总参数 / 2B 激活参数),从中文问答、成语翻译、代码生成等维度,对它的 10 种语言支持(中、英、阿、法、德、日、韩、西、葡、意)做横向横评,并附上 Mac 本地部署的最快上手方法。 ## 一、模型速览:24B 总参数,只"激活" 2B 的轻量多语言选手 **LFM2.5-24

gitblog_00631的博客 440

支持10种语言的端侧大模型:LFM2.5-24B-A2B-Preview中英多语言表现与128K词表Tokenizer扩展技术

LFM2.5-24B-A2B-Preview 是 Liquid AI 推出的端侧大模型:总参数 24B、每 token 仅激活约 2.45B 参数,支持中文、英文等 10 种语言,并提供 128K 词表与 128K 上下文的 GGUF 量化文件,适合在本地设备快速、隐私地运行推理型 Agent。 ## LFM2.5-24B-A2B-Preview 端侧大模型核心亮点 这个模型专为"在设备上快速

gitblog_00448的博客 374

读懂LFM2.5-24B-A2B-Preview-8bit的8bit量化:affine模式、64分组策略与Router门控的特殊处理

**LFM2.5-24B-A2B-Preview-8bit** 是 Liquid AI 的 LFM2.5-24B-A2B-Preview MoE 模型转换到 Apple MLX 生态的 **8bit 量化版本**,采用 **affine 量化模式**、**group_size 64** 的分组策略,并对 **MoE Router 门控**做了显式的特殊处理。整包权重仅约 25.47 GB,让 24

gitblog_00410的博客 892

10种GGUF量化版怎么选?LFM2.5-24B-A2B从IQ2_XXS到Q8_0完整选型指南

**LFM2.5-24B-A2B-GGUF** 是 Liquid AI 的 24B 参数推理模型 LFM2.5-24B-A2B 的 GGUF 量化仓库,一次提供从 IQ2_XXS 到 Q8_0 共 10 种量化版本,方便你在 llama.cpp 等本地推理工具中按需部署。面对一堆文件名,到底该下载哪个?这篇指南帮你 3 分钟选定最合适的版本。 ## LFM2.5-24B-A2B 是什么?先搞懂模

gitblog_01099的博客 294

革命性MoE大模型mlx-community/LFM2.5-8B-A1B-MLX-8bit完全解析:8bit量化+128K上下文,Mac本地AI的新选择

mlx-community/LFM2.5-8B-A1B-MLX-8bit 是一款专为 Apple Silicon 芯片打造的 MLX 格式 MoE 大模型,由 Liquid AI 的 LFM2.5-8B-A1B 转换而来。它拥有约 8.3B 总参数,推理时却只激活 1.5B 参数,配合 8bit 量化后整体体积约 9GB,并支持 128K 超长上下文,堪称 Mac 本地部署大模型的新选择。本文将从

gitblog_00438的博客 801

拆解LFM2.5-24B-A2B-Preview架构:30层短卷积+10层GQA+64专家Top-4路由如何实现MoE级推理速度

LFM2.5-24B-A2B-Preview 是 Liquid AI 推出的 24B 参数 MoE 推理模型,每个 token 仅激活约 2.45B 参数,专为"快速、私有、端侧运行"的智能体(Agent)而生。它用 **30 层双门控短卷积 + 10 层 GQA 注意力** 的混合结构,配合 **64 专家 Top-4 路由**,让 24B 规模的模型跑出接近 2B 小模型的推理速度。本仓库提供

gitblog_00017的博客 431

为什么LFM2.5-24B-A2B总是先思考再回答?think推理机制与使用技巧

你是不是也有过这样的困惑:明明问了一个很简单的问题,[LFM2.5-24B-A2B](https://link.gitcode.com/i/a307e6f630eda39709fc22cfe25dfa7f) 却"慢半拍",先输出一大段思考过程才给出答案?这不是卡顿,而是它内置的 **think 推理机制**在工作。LFM2.5-24B-A2B 是 Liquid AI 推出的 24B 参数 MoE

gitblog_00323的博客 145

mlx-community/LFM2.5-8B-A1B-MLX-8bit中文写作与翻译实测:能否成为本地内容创作助手?

如果你正在寻找一款能在苹果电脑上本地运行、擅长中文写作与翻译的开源大模型,mlx-community/LFM2.5-8B-A1B-MLX-8bit 值得认真一试。它是 Liquid AI 的 LFM2.5-8B-A1B 转换而来的 MLX 8bit 量化版本,采用 32 专家 MoE 架构,总参数约 8.3B、单次推理只激活约 1.5B 参数,并支持 128K 超长上下文。本文通过中文写作与翻译实

gitblog_00560的博客 980
上一篇: Chinese-Fineweb-Edu:AI训练从“堆算力“到“拼数据“的转折点
下一篇: Chinese FineWeb:分层数据时代的中文语料基础设施
OpenCSG
博客等级 码龄3年 1679粉丝 575原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值