网易有道开源 “子曰 - o1” 推理模型

有道子曰推理模型“子曰-o1”发布即开源,14B小参数复现OpenAI o1强推理效果 子曰-o1”的开源特性不仅为开发者提供了强大的工具和平台,还为企业带来了显著的技术和商业价值。“子曰-o1”通过模拟人类思考方式的思维链技术和自我对话机制实现了自我纠错能力。这种能力结合动态调整、优化以及分步讲解功能,确保了最终答案的准确性。 阅读详情

网易有道开源的 “子曰 - o1” 推理模型支持消费级显卡,主要通过以下技术实现:

  • 轻量级模型设计:“子曰 - o1” 采用 14B 参数规模,相比许多对硬件配置要求高的大型推理模型,选择了较小的参数规模,从基础上降低了对硬件的性能需求,尤其是对显卡的要求,使其可以在消费级显卡上运行。
  • 低比特量化技术:该模型使用低比特量化技术,在不影响模型推理能力的前提下,对模型数据进行量化处理,减少数据存储和计算所需的空间和资源,进一步优化了模型在消费级显卡上的运行效率,使得模型能在如 RTX 3090、A100 等消费级显卡上实现高效部署。
  • 异构计算优化:研发团队通过异构计算优化,成功将模型推理时延控制在 300ms 以内,配合动态显存管理技术,使单卡显存占用降低至 8GB 以下,让消费级显卡能够在有限的显存空间内,以较低的延迟运行该模型,确保了模型在消费级显卡上的稳定运行。

1. 环境准备

安装依赖库

通常需要安装深度学习框架如 PyTorch,以及一些辅助工具库。可以使用 pip 进行安装,示例命令如下:

收起

bash

pip install torch transformers accelerate

这里 torch 是 PyTorch 深度学习框架,transformers 库提供了预训练模型的加载和使用接口,accelerate 库有助于在不同硬件环境下加速模型推理。

确保硬件支持

“子曰 - o1” 支持消费级显卡,确保你的显卡驱动已经正确安装,并且显卡的 CUDA 或 ROCm 环境配置正常。例如,如果使用 NVIDIA 显卡,需要安装对应的 CUDA 工具包。

2. 模型下载

从开源社区提供的渠道下载 “子曰 - o1” 模型文件。一般来说,模型文件可能包含在 GitHub 仓库或者专门的模型托管平台上。可以使用 git 命令克隆仓库获取模型,示例如下:

收起

bash

git clone <模型仓库地址>

3. 编写推理代码

以下是一个简单的 Python 代码示例,展示如何使用 “子曰 - o1” 进行推理:

收起

python

import torch
from transformers import AutoTokenizer, AutoModelForCausalLM

# 加载分词器
tokenizer = AutoTokenizer.from_pretrained("<模型路径>", trust_remote_code=True)

# 加载模型
model = AutoModelForCausalLM.from_pretrained("<模型路径>", 
                                             device_map="auto", 
                                             torch_dtype=torch.float16, 
                                             trust_remote_code=True)

# 输入文本
input_text = "请介绍一下人工智能。"

# 对输入文本进行分词
inputs = tokenizer(input_text, return_tensors="pt").to(model.device)

# 生成输出
outputs = model.generate(**inputs, max_new_tokens=200, num_beams=1)

# 解码输出结果
output_text = tokenizer.decode(outputs[0], skip_special_tokens=True)

# 打印输出结果
print(output_text)

代码解释:

  • 加载分词器:使用 AutoTokenizer.from_pretrained 方法加载与 “子曰 - o1” 模型对应的分词器,trust_remote_code=True 允许加载远程代码。
  • 加载模型:使用 AutoModelForCausalLM.from_pretrained 方法加载模型,device_map="auto" 会自动将模型分配到可用的硬件设备上,torch_dtype=torch.float16 指定使用半精度浮点数以减少显存占用。
  • 输入文本处理:将输入文本进行分词处理,并将分词结果转换为 PyTorch 张量,然后移动到模型所在的设备上。
  • 生成输出:使用 model.generate 方法根据输入生成输出,max_new_tokens 指定生成的最大新令牌数,num_beams 是束搜索的束宽。
  • 解码输出结果:使用分词器的 decode 方法将生成的令牌序列解码为文本,并去除特殊令牌。

4. 运行代码

将上述代码保存为一个 Python 文件(例如 inference.py),然后在终端中运行:

收起

bash

python inference.py

运行代码后,你将看到 “子曰 - o1” 模型根据输入文本生成的输出结果。

DeepSeek-R1与AIGC:颠覆未来的智能革命——北京大学前沿技术研讨精华解读 基于强化学习与思维链(Chain of Thought)技术,R1像人类一样分解多步骤问题,在GPQA数学推理测试中准确率高达79.8%,远超GPT-4o的均衡表现。:全球首个开源推理模型,腾讯、百度、字节等大厂已全线接入,推动中国AI生态“换道超车”。:R1化身“超级助教”,自动批改作业、设计实验方案,北大青鸟已将其应用于虚拟实验室搭建。”无论是开发者、创业者,还是普通职场人,唯有拥抱这场变革,才能成为智能时代的赢家。:掌握“AI协作”技能(提示词工程、智能体搭建),薪资溢价可达50%。 阅读详情

相关推荐

25年2月8日,全球AI资讯约25条:DeepSeek开源多模态大模型、线性扩散模型刷新文生图SOTA、首个机器人基础模型等

其中,客服部门的淘汰率最高,达95%,只保留5%能操作AI的人员;自2023年起,尽管初期存在抄袭和作弊的担忧,导致一些学校禁止使用ChatGPT,但随着时间推移,许多教育机构的态度逐渐转变。他在OpenAI工作了9年,期间不仅完成了博士学位,还发表了多项重要研究成果,包括2017年的PPO算法,该算法是ChatGPT核心技术RLHF的一部分。MusicMagus 提出了一种基于扩散模型的零样本文本到音乐编辑方法,能够在不额外训练的情况下,通过文本指令修改音乐的风格、音色和乐器,同时保持其他属性不变。

具身机器人和通用AI 1283

子曰-o1:网易有道开源国内首个分步式讲解推理模型,支持K12数学教学

子曰-o1是网易有道推出的国内首个分步式讲解推理模型,采用14B轻量级架构,专为消费级显卡设计,支持K12数学教学,提供精准的解题思路和答案。

士多啤梨先生の博客 1383

使用moveit控制机械臂

位置设置:`target_pose.position.x = 0.12`, `target_pose.position.y = 0.41`, 和 `target_pose.position.z = 0.44` 分别设置了机械臂末端执行器的X, Y, 和 Z坐标。设定目标位置:`group.set_pose_target(target_pose)` 这一命令将之前定义的目标位置和姿态设置为当前机械臂组的目标,为接下来的路径规划做准备。在机械臂控制的过程中,设定精确的目标位置和姿态是实现精确操作的关键步骤。

realman_Rop的博客 3688

【AIGC2025】蛇年将至,AI大模型杀手级模型哪家强?

AIGC2025 大模型杀手级应用哪家强?

一个内容严谨、方向前沿、极具实践价值的AI大模型技术分享站 1792

Raid5损坏两块盘

  以下为浪潮Inspur NF5460M4型号服务器故障处理过程: 设备raid5组损坏两块硬,并raid组处理离线状态,情况如图:     由于硬盘数据比较重要,面对此情况不要慌我们尽量做到安全保守的保证数据尽可能完整,以下为处理方法,(遇raid5两块盘出现问题处理方法)   以下截图均为遇相同问题的解决图案,并非现场截图。 Ctrl+H 进WebBios界面,发现两...

chen_lipeng的博客 2万+

利用Python实现纬度加权平均(即NCL中的wgt_areaave)

当处理全球数据的时候,最常见的分析就是全球、北半球平均了,这时候一定要注意要根据纬度等信息进行加权,求加权平均,要不然结果肯定会不准。但是对于Python中,常规的计算包里面是没有的,或许现在有其他包可以实现,也可以告诉我~。

记录基于python语言处理气象问题的一些代码,包括不限于气象数据读取、机器学习和深度学习建模。 5745

有道14B低成本轻量模型“子曰3”开源,数学推理性能超越大模型

从“子曰”大模型在一年内快速推出10余个垂直应用,到今年初发布国内首个输出分步式讲解的推理模型“子曰-o1”,再到如今“子曰3数学模型”正式开源,网易有道充分结合应用场景进行模型迭代和优化,持续推动教育大模型技术创新和应用落地。此次“子曰3数学模型”发布及开源,标志着“子曰”大模型系列在轻量级模型推理能力上实现了又一重要突破,也使得有道在教育大模型领域长期积累的技术成果能够共享给更多的开发者和从业者,构建起协同发展的行业格局。据悉,“子曰3数学模型”在解决国内数学问题任务中展现出了显著优势。

Frank091800的博客 308

【驭风计划 机器学习】实验6 基于集成学习的 Amazon 用户评论质量预测

¶随着电商平台的兴起,以及疫情的持续影响,线上购物在我们的日常生活中扮演着越来越重要的角色。在进行线上商品挑选时,评论往往是我们十分关注的一个方面。然而目前电商网站的评论质量参差不齐,甚至有水军刷好评或者恶意差评的情况出现,严重影响了顾客的购物体验。因此,对于评论质量的预测成为电商平台越来越关注的话题,如果能自动对评论质量进行评估,就能根据预测结果避免展现低质量的评论。本案例中我们将基于集成学习的方法对 Amazon 现实场景中的评论质量进行预测。

Mege1的博客 474

有道14B低成本轻量模型“子曰3”开源,数学推理性能超大模型

这是国内首个专注于数学教育,可在单块消费级GPU上高效运行的开源推理模型。

TMT_XQ的博客 425

网络流量异常信息分析方法研究

本课题针对网络安全中网络流量异常的分析方法进行研究,提出一种基于机器学习和深度学习的异常检测算法。该算法采用卷积神经网络(CNN)和长短时记忆神经网络(LSTM)结合的方式,通过训练得到二分类模型,从而实现对网络流量异常的检测。随着互联网的飞速发展,网络攻击事件日益增多,网络安全问题成为了亟待解决的问题之一。常见的网络攻击手段包括 DDoS 攻击、SQL 注入、XSS 攻击等,这些攻击手段可能导致网络系统发生异常,给网络运维、数据安全带来极大的挑战。

肥晨开发的学习之路 1038

双目摄像头全景解析:从几何光学到深度智能

双目视觉系统基于仿生学原理,通过水平排列的双摄像头模拟人眼视差机制实现三维感知。其核心是通过标定、校正、匹配等算法流程,将视差转换为深度信息,最终生成三维点云。该系统在自动驾驶、机器人导航、工业检测等领域有广泛应用,但面临弱纹理、重复图案等挑战。未来发展趋势包括与事件相机、深度学习等技术的融合,进一步提升精度和动态性能。

reset2021的博客 120

网易有道开源基于 Qwen2.5-14B-Instruct 的 o1 思考模型 —— Confucius-o1-14B

Confucius-o1-14B是网易有道团队开发的类似o1的推理模型,无需量化即可在单个GPU上轻松部署。该模型基于Qwen2.5-14B-Instruct模型,采用两阶段学习策略,使轻量级的14B模型具备类似o1的思维能力。它的与众不同之处在于,在生成思维链之后,它可以自行从思维链中总结出一步步解决问题的过程。这可以避免用户陷入复杂的思维链,让他们轻松获得正确的解题思路和答案。

weixin_41446370的博客 1315

【Transformer】小白入门指南

Transformer是起源于NLP领域,然后在图像、视频、声音等领域都得到了广泛应用的基础架构,是继MLP、CNN、RNN’后的公认的第四大基础模型结构。Transformer技术凭借其卓越的表现和广泛的应用前景,已经成为了机器学习领域的一个关键技术。自从2017年Google提出》一文以来,Transformer架构的出现彻底改变了机器学习和深度学习的格局,尤其是在处理语言模型、生成模型以及多模态学习等领域,Transformer几乎成为了不可或缺的技术基石。

图挖掘领域,新晋砖家 ☞ 未来可期,欢迎和静静一起学习交流吖 2524

网易有道发布大模型聚合平台ThinkFlow,全链路Token看板破解AI成本“黑盒”难题

近日,网易有道正式推出企业级大模型聚合平台——ThinkFlow,通过标准化API接口,ThinkFlow将DeepSeek、Kimi、Qwen等20余款主流大模型纳入统一调度,企业仅需一次接入,即可在多模型间灵活切换,从架构层面终结了逐一适配接口、分头管理密钥的碎片化困局。一旦某一模型服务出现响应迟滞或突发中断,平台可在毫秒级将请求自动导向备用线路,配合重路由与限流熔断策略,确保业务前端几乎无感知,为金融、政务、工业互联网等高可用性场景提供了关键支撑。

优快云资讯 1201

【机器学习-17】数据变换---小波变换特征提取及应用案列介绍

小波变换作为一种前沿的数据分析工具,近年来在信号分析领域崭露头角。小波分析的理论和方法凭借其独特优势,在信号处理、图像处理、语音处理、模式识别以及量子物理等多个领域得到了广泛的应用,堪称近年来在工具及方法上的重大突破。小波变换以其多分辨率的特性,在时域和频域均展现出对信号局部特征的强大表征能力。通过伸缩和平移等运算过程,小波变换能够对信号进行多尺度聚焦分析,为非平稳信号的时频分析提供了一种有效手段。它允许我们由粗及细地逐步观察信号,从而精准地提取出有用信息。

qq_38614074的博客 2万+

C# WinForm 基于DirectShow.dll编写的程序,可边预览边保存视频,音频和图片

基于微软的DirectShow.dll的二次开发1.自动识别连接的摄像头跟麦克风且可以对其进行选择(默认选中第一个)2.可录制wmv和avi两种格式的视频并且都带有音频,avi可以录制的分辨率和帧数进行选择,wmv默认进行了淸晰度优化如不喜欢可去除代码中有相关提示3.可在预览点开之后进行拍照,也可边录制视频边拍照4.添加了视频和音频的压缩功能(酌情使用)这次二次开发发现C#对DirectShow的相关信息太少,这次做完也不敢藏私共享出来,还望大家指正

我花了2天,找到了我觉得翻译质量最好的AI大模型。

为此,作者自制了能接入该API的论文翻译插件,解决了arXiv等平台的实时翻译需求。现如今大模型岗位需求越来越大,但是相关岗位人才难求,薪资持续走高,AI运营薪资平均值约18457元,AI工程师薪资平均值约37336元,大模型算法薪资平均值约39607元。但遇见一些专业术语搭配复杂表达方式的文段,我说实话,我现在一般用沉浸式翻译搭配OpenAI或者DeepL的API,翻译起来还是懵逼。不过,如果你跟现在的我一样,就喜欢浏览器上苦读英文文献,也追求翻译质量,那我觉得,真的可以考虑凑合用一下我这个小破插件。

HUANGXIN9898的博客 2033

华为的C语言编程规范.pdf

华为技术有限公司内部技术规范。本规范制定了编写C语言程序的基本原则、规则和建议。从代码的清晰、简洁、可测试、安全、程序效率、可移植各个方面对C语言编程作出了具体指导。

网易秉持“AI实用主义“技术发展理念,构建以AI为核心的新质生产力体系

网易秉持"AI实用主义"技术发展理念,构建以AI为核心的新质生产力体系,聚焦AI技术在垂直场景的落地应用,避免盲目投入通用大模型竞争,将游戏、教育、音乐、工业等优势领域作为AI技术应用主战场。2025年研发投入达177亿元,连续六年突破百亿,已将AI原生管线大规模部署于各业务全流程,部分环节生产效率提升达300%。公司坚持"游戏科技脱虚向实"战略,推动游戏AI技术外溢服务实体产业,在工程机械、教育、音乐等领域形成差异化技术优势,探索出一条符合自身资源禀赋的AI发展路径。

[Blog][Domain] programb.blog.youkuaiyun.com 844

贝叶斯统计 [韦来生编]

贝叶斯(Bayes)统计是近几十年来迅速发展起来的数理统计的一个重要分支。贝叶斯方法与经典统计方法的主要不同之处是进行统计推断时除了利用样本信息外,还要利用参数的先验信息,因此可以提高统计推断或统计决策的效果。它在经济、金融、生物、医学、自然科学和社会科学等许多领域具有广泛的应用。贝叶斯方法的研究已渗透到了统计学的几乎所有领域。作者在给中国科学技术大学概率论与数理统计专业本科生开设的“数理统计”课程中有一章专门讲授“贝叶斯方法和统计决策理论”,近十年来也给中国科学技术大学概率统计专业研究生开设过几次“贝叶斯分析”课。本书是在对过去讲稿的内容作了适当的增减和调整的基础上完成的。  本书共分六章。第1章是绪论,介绍了贝叶斯统计的若干基本概念,同时对必要的数理统计的基础知识有重点地作了回顾。第二章介绍了确定先验分布的若干可供选择的方法。第三章介绍了几类常见统计模型参数的后验分布的主要结果和计算方法。第四章和第五章分别介绍了“贝叶斯统计推断”和“贝叶斯统计决策”的内容。第六章介绍了贝叶斯统计计算的若干方法,包括蒙特卡洛方法和马尔可夫链蒙特卡洛(MCMC)方法以及相关统计软件的简介。本书的每一章附右大量的例题和习题,书末附有常用的几个表格和部分习题解答供读者查用。  大约可在54学时内讲授本书的第1章至第六章的主要内容,教师可根据学时需要选讲本书第1章至第六章的部分内容。书中标“*”号的章节可略去不讲,留给读者作为阅读材料。第六章例题中的R代码和部分例题的数据文件等可从作者个人主页下载。  作者在编写本书的过程中参考了J.O.Berger教授的《统计决策论及贝叶斯分析》和茆诗松教授编写的《贝叶斯统计》等书中的一些内容,以及《贝叶斯分析》一书中由张伟平博士编写的有关贝叶斯统计计算的一些内容。在此表示衷心感谢。  本书编写准备过程中,中国科学技术大学统计与金融系的几个研究生帮助完成了本书部分中文的录入和排版,作者对他们的辛勤工作表示真诚的感谢。高等教育出版社为本书的出版给予了大力支持。在此一并致谢。

廖雪峰Python教程[完整版]

廖雪峰的python教程整理的,已经排好版了,而且还是完整的,适合小白

字节 GUI 代理模型 UI-TARS:具备像人一样的感知、推理、行动能力;SLAM-Omni:支持可控音色的语音对话模型

据钛媒体报道,AI 耳机公司未来智能在北京宣布完成数千万元的 Pre-A 轮融资,此轮融资由万物创投领投,初心资本跟投。这家公司在 2021 年完成种子轮融资,2023 年完成天使轮融资,积累了不少资本支持。未来智能表示,此次融资将主要用于提升算力和算法服务、持续迭代与扩充产品矩阵、拓展海外市场以及完善线下渠道布局。未来智能的 CEO 马啸表示,该公司致力于开发符合当前 AI 发展特点的耳机产品,选择了一个更贴近用户的场景 —— 办公耳机。

声网的博客 2294

EmotiVoice易魔声 - 强大的开源情感语音合成引擎

EmotiVoice(易魔声)是网易有道开源的一款强大的 TTS (文本转语音)引擎。

chenwei00001的博客 1844

每日AI资讯速递 | 2025-06-24

【AI产业动态速览】2025年AI技术加速商业化落地:百度推出多模态编程工具ComateAIIDE,字节跳动发布AI美食助手"探饭",阿里云发布自动驾驶加速框架PAI-TurboX。月之暗面开源超越GPT-4o的多模态模型,MiniMax实现AI语音个性化定制。特斯拉Robotaxi在美试点,腾讯获批首款认知训练数字疗法。银河通用机器人创11亿元融资纪录,MIT研究警示过度依赖AI或致认知退化。Meta斥资140亿美元布局AGI,周鸿祎强调人机协同发展方向。AI产品榜2周年大会将聚焦智能

kocor的博客 743

2025全球AI大模型激战:阿里三连发引爆开源革命,中美巨头上演巅峰对决

2025年世界人工智能大会(WAIC)刚刚落幕,中国科技巨头阿里巴巴以一场震撼业界的开源盛宴,宣告全球AI竞争进入全新阶段——三天1000亿次API调用、4亿次模型下载、14万个衍生模型诞生,阿里通义千问家族一举超越Meta的Llama,登顶全球开源模型榜首。这场由开源引爆的AI革命正在重塑技术版图,让我们一探究竟。

Mr_Zhangyuge的博客 1471

AI 新闻速递 (2025 年 02 月 14 日)

总结:清华大学发布《DeepSeek 如何赋能职场应用》手册,介绍 DeepSeek 在多个职场场景中的应用,包括创意激发、科研支持和项目管理等。

xu553979404的博客 1257

马斯克“地球上最聪明AI”Grok3发布:20万张GPU,号称强过DeepSeekV3

出品 | 网易科技《态度》栏目作者 | 袁宁编辑 | 丁广胜划重点:01 Grok 3 包括Grok 3 Reasoning 和 Grok 3 mini Reasoning。02 Grok3 的推理模式加入了DeepSearch,可以检索互联网和 X 上的信息进行响应。03 X 的 Premium+ 订阅者将首先获得 Grok 3。04 SuperGrok 的价格为每月 30 美元或每年 300 ...

网易智能 785

每日新闻掌握【2025年1月23日 星期四】

大型科技股普涨,奈飞涨超9%,甲骨文涨超6%,英伟达、微软涨超4%,亚马逊、Meta涨超1%,特斯拉跌超2%。大型科技股多数上涨,甲骨文涨超7%,英伟达、亚马逊涨超2%,奈飞、谷歌涨超1%,苹果跌超3%,其中,英伟达市值34489亿美元,超越苹果登顶全球第一。中信建投表示,展望2025年,看好AI应用的落地,随着智能眼镜、机器人以及各种可穿戴设备的涌现,新的应用与新的硬件终端结合有望打造出更多的爆款场景,也将进一步拉动基础设施的需求,持续看好AI板块,包括基础设施产业链和端侧AI应用相关产业链。

716

Ornith 1.5 开源即王炸:会自我进化的大模型 Mac 本地部署实测

开源大模型Ornith 1.5系列(9B/35B-A3B/397B)凭借“端到端自我改进”训练机制引发关注,35B-A3B在代码生成等任务中性能超越同尺寸模型,9B版本表现接近35B级别。作者实测Mac本地部署:MLX 4bit量化版存在输出乱码问题,推荐通过Ollama加载GGUF格式(支持多模态)。模型原生支持256K上下文、工具调用及思维链推理,MIT协议开源。需注意官方MLX版本为纯文本,而Ollama版含视觉功能。建议开发者优先测试9B/35B-A3B的GGUF量化版本。

邵奈一的博客 2161
上一篇: ChatGPT 搜索测试整合记忆功能
下一篇: DeepSeek
timer_017
博客等级 码龄2年 561粉丝 126原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值