一键部署 gpt-oss-20b,实测开源推理模型新 SOTA,性能直逼 o3‑mini

STM32实战:如何用GPS信号同时同步海康摄像头和Livox Mid-360雷达(附完整接线图) 本文详细介绍了如何利用STM32实现GPS信号分频,同步海康摄像头和Livox Mid-360雷达的时间同步方案。通过硬件架构设计、STM32信号处理核心实现及设备接口规范,解决了多传感器数据融合中的时间对齐难题,适用于自动驾驶和机器人导航领域。 阅读详情

作者:mumuu

编辑:李宝珠

转载请联系本公众号获得授权,并标明来源

OpenAI 正式开源 gpt-oss-120b 和 gpt-oss-20b,前者以千亿级参数专为复杂推理与知识密集型场景设计,后者则更适合低延迟、本地或专业垂直领域使用。在多项测试中,gpt-oss-120b 性能媲美 OpenAI o4-mini ,而 gpt-oss-20b 也接近 o3-mini 的表现。

时隔 6 年,自 GPT-2 以来,OpenAI 终于再度发布开源大模型——推出 gpt-oss-120b 和 gpt-oss-20b,前者以千亿级参数专为复杂推理与知识密集型场景设计,后者则更适合低延迟、本地或专业垂直领域使用,可在消费级硬件(如笔记本、边缘设备等)流畅运行。这种「大模型通用性+小模型专业性」的双版本以定位差异化和部署灵活性特点,较好地满足了用户的多场景使用需求。

在技术层面,gpt-oss 采用 MoE 架构保证强大性能的同时,显著降低了计算和内存需求,其中 gpt-oss-120b 能在单个 80GB GPU 上高效运行,而 gpt-oss-20b 可在仅配备 16GB 内存的边缘设备上运行。

在实际任务评估中,gpt-oss-120b 在 Codeforces、MMLU 和 HLE 以及工具调用 TauBench 的评测中表现优于 o3‑mini,并与 o4-mini 持平、甚至反超。此外,其在 HealthBench⁠ 和 AIME 2024 和 2025 上表现得比 o4-mini 更好。尽管 gpt-oss-20b 的模型参数规模较小,但在这些相同的评估中,其表现直逼 o3‑mini。

为了让大家能够更加流畅地体验 gpt-oss,HyperAI超神经官网(hyper.ai)的「教程」板块现已上线了「Llama.cpp+open-webui 部署 Gpt-oss-20b」,一键即可启动,基于单卡 NVIDIA RTX 4090 即可感受开源 SOTA 模型的强大能力。

另外,gpt-oss-120b 的教程也在紧锣密鼓地制作中,激情期待!

教程链接:

https://go.hyper.ai/iEJvN

Demo 运行

1. 进入 hyper.ai 首页后,选择「教程」页面,并选择「Llama.cpp+open-webui 部署 gpt-oss-20b」,点击「在线运行此教程」。

2.页面跳转后,点击右上角「克隆」,将该教程克隆至自己的容器中。

3.选择「NVIDIA GeForce RTX 4090」以及「PyTorch」镜像,按照需求选择「按量付费」或「包日/周/月」,点击「继续执行」。新用户使用下方邀请链接注册,可获得 4 小时 RTX 4090 + 5 小时 CPU 的免费时长!

HyperAI超神经专属邀请链接(直接复制到浏览器打开):

https://openbayes.com/console/signup?r=Ada0322_NR0n

4.等待分配资源,首次克隆需等待 3 分钟左右的时间。当状态变为「运行中」后,点击「API 地址」旁边的跳转箭头,即可跳转至 Demo 页面。请注意,用户需在实名认证后才能使用 API 地址访问功能。

效果演示

进入 Demo 运行页面后,在对话框内输入 Prompt 并点击运行即可。

笔者对模型的内容创作、数学问题、推理能力进行了简单测试,gpt-oss 的回答都还不错。

Prompt:请撰写一个关于肯德基疯狂星期四的喜剧剧本,300字左右。

Prompt:(根号2+根号3)的2006次方,小数点后第一位第二位数是多少?

Prompt:判断逻辑是否正确:因为凶手不是背包旅客,而且你不是背包旅客,所以你是凶手。

以上就是 HyperAI超神经本期推荐的教程,欢迎大家前来体验!

教程链接:

https://go.hyper.ai/iEJvN

 往期推荐 


戳“阅读原文”,免费获取海量数据集资源!

【2024年华为秋招-12月25日-第三题(300分)- PCB印刷电路板布线】(题目+思路+Java&C++&Python解析+在线测试) 在PCB印刷电路板设计中,器件之间的连线需要避免线路的阻抗值增大、而且赛件之间还有别的器件和别的干扰源,在布线时我们希望受到的干扰尽量小。现将电路板简化成一个M×N的矩阵,每个位置(单元格)的值表示其源干扰度。如果单元格的值为0,表示此位置没有干扰源;如果单元格的值为非0,则表示此位置是干扰源,其值为源干扰度。连线经过干扰源或干扰源附近会增加连线的总干扰度。位置Axy的干扰源的源干扰度为dd01、若连线经过位置Axy,则其总干扰度会增加d;2、若连线经过离位置A。 阅读详情

相关推荐

Xiaojie雷达之路---毫米波雷达基础知识---角度估计

本篇文章主要介绍毫米波雷达的基础知识中的角度估计,对于本篇文章主要回答5个问题 1.在雷达的前方,如何估计前方一个物体的角度 2.角度测量的准确性 3.如何测量多个物体的角度 4.雷达可测的角度的视场最大值为多少 5.角度分辨率取决于什么因素 文章目录估计雷达前面一个物体的角度角度测量的准确性雷达的最大角视场测量雷达前方多个距离和速度相同的物体角度分辨率角度估计的流程 估计雷达前面一个物体的角度 估计一个物体的角度,最少需要两根接收天线 发射天线发送一个chirp,经过物体发射后信号,信号分别被第一根天

XiaoJie的博客 1万+

一手实测OpenAI新开源的GPT OSS,o1和GPT-4o都要过气了。

我们等这一天都等太久了,蹲草莓、蹲Orin、蹲发布会OpenAI终于当了一回字面意义上的OpenAI了。这周大概率还会有GPT5,这款从24年期待到25年,一度被称为AGI起点的模型真的,我现在已经睡不着了,也顾不上时差不时差的了,我要一口气测24小时!别鸽我了,我不差Token,真的。@ 作者 / 卡尔。

具身机器人和通用AI 1340

Simpack实战:5分钟搞定轨道车辆车轮不圆的3种定义方法(附详细参数设置)

本文详细介绍了在Simpack中定义轨道车辆车轮不圆的3种高效方法:Radius deviations、Fourier coefficients和Harmonic function,并提供了详细的参数设置指南。通过实战案例和参数优化技巧,帮助工程师快速掌握车轮不圆度的定义与仿真,提升轨道车辆动力学分析的准确性和效率。

weixin_29292535的博客 202

开源大模型实战:GPT-OSS本地部署与全面测评

本文详细介绍了在 Linux 环境下通过 Ollama 部署 GPT - OSS - 20B 模型的流程,包括配置学术加速、安装 Ollama、后台运行服务及拉取安装模型等步骤,还通过 AI 幻觉检测、算法题、SQL 题、数学题等多维度测试验证了该模型在可靠性、技术实用性、业务场景适配及专业深度等方面的能力,展现出其在低资源部署与多场景任务中的突出表现,对开发者友好且具备开源价值,未来轻量级模型有望推动 AI 技术普惠化应用。

笃行其道的博客 13万+

在微信小程序中如何引入iconfont

略

sayyy的专栏 4326

论文精读-ReTransformer ReRAM-based Processing-in-MemoryArchitecture for Transformer Acceleration

Transformer已经成为一种流行的深度神经网络(DNN)模型,用于神经语言处理(NLP)应用,并在神经机器翻译、实体识别等方面表现出优异的性能。然而,其在自回归解码器中的规模化点积注意机制在推理过程中带来了性能瓶颈。Transformer也是计算和内存密集型的,需要硬件加速解决方案。

a284365的博客 1922

DeepSeek-VL2实战指南:一步步构建您自己的智能视觉问答系统!

DeepSeek-VL2,这是一系列先进的大型混合专家 (MoE) 视觉语言模型,其显著改进了其前身 DeepSeek-VL。DeepSeek-VL2 在各种任务中都表现出卓越的能力,包括但不限于视觉问答、光学字符识别、文档/表格/图表理解和视觉基础。我们的模型系列由三个变体组成:DeepSeek-VL2-Tiny、DeepSeek-VL2-Small 和 DeepSeek-VL2,分别具有 1.0B、2.8B 和 4.5B 激活参数。

SJJS_1的博客 4683

从零到一:STM32 CubeMX与WS2812B的DMA驱动艺术

本文详细介绍了如何使用STM32 CubeMX和DMA技术驱动WS2812B RGB LED灯条,从硬件设计到软件实现的全过程。通过CubeMX配置定时器和DMA,实现高效的PWM波形生成与数据传输,解决传统GPIO控制资源占用高的问题。文章还提供了颜色编码、动画效果实现及常见问题解决方案,助力开发者快速掌握智能LED控制技术。

weixin_28278377的博客 978

gpt-oss-20b部署全流程:附常见报错解决方案

本文介绍了如何在星图GPU平台上自动化部署gpt-oss-20b-WEBUI镜像,基于vLLM引擎提供高性能大语言模型推理服务。用户可快速启用OpenAI兼容API,典型应用于企业内部技术文档问答、自动化PR描述生成及销售话术智能辅助等场景,显著提升AI生产力落地效率。

weixin_32306683的博客 377

控制科学与工程(自动化)保研经验【1】——预备篇

个人情况 学校:中末流211 专业:自动化(学科评估B-) 年份:2019 排名:4/128 绩点:4.16/5 竞赛:三个国二(包括数模国赛美赛)、两个省一(机器人、电子设计竞赛) 【本科期间竞赛做的比较多,是我的一大亮点,可以在筛简历这关适当弥补专业排名的不足】 科研:一个校级的大创项目(水) 夏令营报名:中科大科学岛、中科大本部、自动化所、沈自所、北航(仪器17系)、山大、浙江大学、南开、同...

Control Everything 1万+

数据分析案例-2024 年全电动汽车数据集可视化分析

本数据集来源于Kaggle,原始数据集共有177866条数据,17个变量。该数据集显示了目前通过华盛顿州许可部 (DOL) 注册的电池电动汽车 (BEV) 和插电式混合动力电动汽车 (PHEV)。电池电动汽车 (BEV) 是一种全电动汽车,使用一个或多个电池来存储电能,为电机提供动力,并通过将车辆插入电源进行充电。插电式混合动力汽车 (PHEV) 是一种使用一个或多个电池为电动机提供动力的车辆;使用另一种燃料,例如汽油或柴油,为内燃机或其他推进源提供动力;并通过将车辆插入电源来充电。

m0_64336780的博客 1万+

一文搞懂gpt-oss-20b-WEBUI,轻松实现本地AI对话

本文介绍了如何在星图GPU平台上自动化部署gpt-oss-20b-WEBUI镜像,快速构建本地AI对话系统。用户无需配置环境或编写代码,启动后即可通过网页界面进行多轮、长上下文的私有化智能问答,典型应用于企业知识助手、论文写作协作者及语言学习陪练等场景。

weixin_35257663的博客 379

芒果YOLO11改进106:检测头篇DynamicHead动态检测头:基于DynamicHead,二次原创提出SATNeXt模块,提出全新的动态DynamicSatDetect

检测头篇DynamicHead动态检测头:基于DynamicHead,二次原创提出SATNeXt模块,提出全新的动态DynamicSatDetect

包括YOLOv5、YOLOv7、YOLOv8等模型改进 773

OpenBayes 教程上新丨一键部署 gpt-oss-20b,实测开源推理模型新 SOTA,性能直逼 o3‑mini

OpenAI 终于再度发布开源大模型——gpt-oss-120b 和 gpt-oss-20b,前者以千亿级参数专为复杂推理与知识密集型场景设计,后者则更适合低延迟、本地或专业垂直领域使用

OpenBayes的博客 1170

迈瑞BS系列全自动生化分析仪LIS协议接口手册(内含HL7和ASTM)

迈瑞BS系列全自动生化分析仪LIS协议接口手册,内含HL7和ASTM)

Probability and Statistics - 4th edition

Probability and Statistics - 4th edition

小白也能懂的gpt-oss-20b:零基础搭建本地AI终端

本文介绍了如何在星图GPU平台上自动化部署gpt-oss-20b-WEBUI镜像,快速搭建本地大语言模型终端。无需命令行操作,用户可一键启动具备20B级理解能力的AI服务,典型应用于技术文档解析、会议纪要整理与教育辅助等中文场景,兼顾隐私安全与使用便捷性。

weixin_42513928的博客 697

jre9下载 jdk9

(Java SE Runtime Environment 9.0) 9.0u175 官方最新版 【x86|x64】

LLMs之GPT:gpt-oss-120b/gpt-oss-20b的简介、安装和使用方法、案例应用之详细攻略

​ LLMs之GPT:gpt-oss-120b/gpt-oss-20b的简介、安装和使用方法、案例应用之详细攻略 目录 gpt-oss的简介 gpt-oss的安装和使用方法 gpt-oss的案例应用 gpt-oss的简介 2025年8月6日,OpenAI重新回归开源节奏,gpt-oss-120b 和 gpt-oss-20b 是 OpenAI 发布的两个开放权重(open-weight)的语言模型。 gpt-oss-120b:适用于生产环境、通用目的和高推理使用场景

头部AI社区如有邀博主AI主题演讲请私信—心比天高,仗剑走天涯,保持热爱,奔赴向梦想!低调,专注,谦虚,自律,反思,成长,还算比较正能量的博主,公益免费传播…内心特别想在AI界做出一些可以推进历史进程影响力的技术(兴趣使然,有点小情怀,也有点使命感呀 3531

假人有限元模型

假人模型,车辆碰撞假人有限元模型,适合做乘员安全的研究者利用

gpt-oss-20b本地部署与推理全指南

详解gpt-oss-20b的环境配置、模型下载及本地推理,支持Transformers与vLLM框架,适用于低延迟和特定场景应用,提供性能对比与动态切换方案。

weixin_31720909的博客 751

GPT-OSS-20B生产级部署:监控与日志配置指南

本文介绍了如何在星图GPU平台上自动化部署gpt-oss-20b-WEBUI镜像,快速构建生产级大语言模型推理服务。该镜像预置监控与结构化日志能力,开箱即用支持文本生成任务,适用于智能客服响应、内容辅助创作等典型AI应用场景。

weixin_34620658的博客 593

GPT-OSS:20B实战测评:16GB内存流畅运行,代码生成能力实测

本文介绍了如何在星图GPU平台上自动化部署GPT-oss:20b镜像,实现高效代码生成功能。该开源大语言模型经过优化,仅需16GB内存即可流畅运行,特别适用于开发场景中的算法实现、SQL查询生成等技术任务,显著提升编程效率。

weixin_42402664的博客 575

一文搞懂DeepSeek - DeepSeek“知识蒸馏”OpenAI?

教师模型(已训练):一个高精度、但可能较为复杂的大型模型。提取知识:从教师模型的输出(如概率分布、中间特征等)中提取出有用的知识。学生模型(待训练):一个轻量化、但性能可能较低的小型模型。蒸馏训练:利用教师模型提取出的知识,作为学生模型的训练目标进行训练。精炼学生模型:经过蒸馏训练后的学生模型,能够学习到教师模型的泛化能力,从而达到或接近教师模型的性能。。通过这一过程,**,违反了服务条款中的“蒸馏”禁令。**

m0_59235245的博客 1209

gpt-oss-20b模型测评:在消费级显卡上的表现

本文介绍了如何在星图GPU平台上自动化部署gpt-oss-20b-WEBUI镜像,充分发挥其在消费级显卡(如RTX 4090D)上的高效推理能力;该镜像开箱即用,典型应用场景为技术文档撰写、代码解释与批量会议纪要摘要生成,显著提升开发者与技术文档工程师的日常生产力。

weixin_29301059的博客 1101

GPT-OSS-20B显存优化教程:48GB门槛下的高效部署

本文介绍了如何在星图GPU平台上自动化部署gpt-oss-20b-WEBUI镜像,以高效运行GPT-OSS-20B大语言模型。通过该平台,用户可快速搭建环境,并利用集成的WebUI界面进行便捷的AI对话与内容生成,典型应用场景包括辅助编写技术文档、生成代码示例等,显著降低了大模型的使用门槛。

weixin_28999139的博客 327

16GB显存跑通20B大模型?gpt-oss-20b真实体验分享

本文介绍了基于星图GPU平台自动化部署gpt-oss-20b-WEBUI镜像的完整方案。该平台支持一键启动具备INT4量化与vLLM加速能力的20B级大模型,显著降低部署门槛。通过集成MoE架构与GQA技术,用户可在16GB显存环境下高效运行模型,典型应用于本地化AI助手开发、长文本处理及模型微调等场景,实现高性能推理与交互式WebUI操作。

weixin_35755823的博客 858

边缘大模型本地部署与推理实战:以GPT-OSS-20B为例

边缘大模型将进一步适配手机、嵌入式设备等更广泛的终端,实现“人人都有本地大模型”的场景

码刀攻城 1468

GPT-OSS:20b部署失败?常见错误及解决方案汇总

本文介绍了在星图GPU平台上自动化部署GPT-oss:20b镜像的常见问题与解决方案。该平台简化了部署流程,帮助用户快速搭建这一强大的开源大语言模型环境,使其能够高效应用于文本生成、代码编写及智能问答等场景,有效提升开发与内容创作效率。

weixin_31974443的博客 288

OpenAI gpt-oss-20b 使用指南

OpenAI gpt-oss-20b 使用指南 【免费下载链接】gpt-oss-20b gpt-oss-20b —— 适用于低延迟和本地或特定用途的场景(210 亿参数,其中 36 亿活跃参数) 项目地址: https://git...

gitblog_00129的博客 2006
上一篇: GPT-5发布,Sam Altman:像和博士级别专家对话,编程/写作/健康三大场景重点升级
下一篇: 【vLLM 学习】Load Sharded State
HyperAI超神经
博客等级 码龄7年 8873粉丝 1753原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值