Mistral AI开源重磅升级：Magistral Small 1.2携多模态能力登陆消费级设备
项目地址: https://ai.gitcode.com/hf_mirrors/unsloth/Magistral-Small-2509-FP8-torchao 法国人工智能创新企业Mistral AI于本周正式发布并开源其新一代小型语言模型Magistral Small 1.2版本。该迭代版本不仅实现了性能的全面跃升，更突破性地融入视觉编码功能，同时具备在普通消费级设备如MacBook上流畅运行的能力，标志着开源大模型在本地化部署领域又迈出关键一步。
作为Magistral Small 1.1的进阶版本，1.2版本延续240亿参数规模，构建于Magistral Small 3.2 (2506)基础架构之上。通过引入Magistral Medium的训练轨迹进行监督微调（SFT），并在模型顶端实施强化学习（RL）优化，新版本在推理能力上实现显著突破。值得关注的是，该模型支持全本地化部署，经过量化处理后可完美适配单块NVIDIA RTX 4090显卡，或仅需32GB内存的MacBook设备即可顺畅运行，大幅降低了高性能AI模型的使用门槛。
本次更新的核心亮点集中在四大维度：首先是多模态能力的跨越式发展，通过新增视觉编码器模块，模型成功将推理能力从文本领域拓展至视觉分析，实现对图像等多模态输入的精准处理；其次是基准性能的全面提升，权威测试数据显示，1.2版本在各项核心指标上均显著超越前代产品；再者是交互体验的精细化优化，包括语气风格与角色一致性的增强，LaTeX公式与Markdown格式输出质量的提升，以及针对简单通用查询的回答长度优化；最后是系统安全性的强化，新增有限生成功能有效降低无限循环风险，并创新性引入[THINK]与[/THINK]特殊标记封装推理过程，避免提示词字符串混淆问题。
在语言支持方面，Magistral Small 1.2展现出强大的跨语言处理能力，覆盖英语、法语、德语、希腊语、印地语、印度尼西亚语、意大利语、日语、韩语、马来语、尼泊尔语、波兰语、葡萄牙语、罗马尼亚语、俄语、塞尔维亚语、西班牙语、土耳其语、越南语、阿拉伯语、孟加拉语、中文、波斯语等数十种全球主要语言，具备广泛的国际适用性。
部署方式上，开发者可通过llama.cpp或Ollama等主流工具链快速启动模型，例如执行命令'ollama run hf.co/unsloth/Magistral-Small-2509-GGUF:UD-Q4_K_XL'即可完成部署。为进一步降低开发门槛，Mistral AI联合Unsloth提供了详尽的微调指南，其Kaggle笔记本环境支持免费微调操作，助力开发者快速实现模型定制化。
创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
