张俊林：OpenAI o1原理逆向工程图解

最新推荐文章于 2025-06-14 09:35:25 发布
最新推荐文章于 2025-06-14 09:35:25 发布
阅读量1k 收藏 10
点赞数 30
分类专栏： 大模型LLM面试指南 文章标签： 算法
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/sinat_37574187/article/details/142629971
版权

张俊林：OpenAI o1原理逆向工程图解

学术头条 2024年09月25日 11:58 北京

图片

内容来自：张俊林 新浪新技术研发负责人

原文链接：https://weibo.com/1064649941/OyA1qFg4q

OpenAI o1的推出称为横空出世不为过，尽管关于Q*、草莓等各种传闻很久了，用了强化学习增强逻辑推理能力这个大方向大家猜的也八九不离十，但是融合LLM和RL来生成Hidden COT，估计很少人能想到这点，而且目前看效果确实挺好的。

OpenAI奔向Close的路上越走越远，你要从o1官宣字面来看，除了“强化学习生成

了解本专栏 订阅专栏 解锁全文 超级会员免费看
张俊林：MCST树搜索会是复刻OpenAI O1/O3的有效方法吗
强化学习曾小健
01-23 818
Deepseek R1和Kimi K1.5同一天公布技术报告，介绍了RL+LLM的做法，方法简洁有效，读完技术报告收获很大，且两者效果基本追平OpenAI O1，下一步就是赶超O3了，方法已经走通，赶超应该只是时间问题。R1和K1.5的方法其实是类似的，且都没有采取MCST+PRM的技术路线，报告发布后涌现出一些声音，意思是MCST是不可行的，我觉得这个结论下得有点草率，而且为时过早。就比如攀登珠穆朗玛峰，可能有不同的路径，条条小路通封顶，不能说A路线能通顶，由此得出结论B路就不行，这里貌似没有必然的逻辑关
『大模型笔记』谈谈OpenAI o1的价值意义及RL 的Scaling law
AI新视界
09-25 431
大模型笔记』谈谈OpenAI o1的价值意义及RL 的Scaling law。
张俊林：Reverse-o1 | OpenAI o1原理逆向工程图解
AIBigModel的博客
09-26 1694
如果我们自己想要给出技术方案逆向工程o1，你的技术方案可能就需要满足这个约束条件，需要包含这些模型，并能解释清楚这类模型池子的运作机制。
OpenAI o1如何炼成？原理逆向工程图解
09-25 427
“OpenAI o1 出现后，大家都在研究它，这里给大家带来知乎@张俊林大佬的文章，这里是他对 o1 的理解。除了复杂逻辑推理能力获得极大增强，o1还有其它什么重要意义？o1的完整训练过程大致会是怎样的？o1是单个模型，还是多个模型？o1中的RL状态空间如何定义？行为空间如何定义？会用何种Reward Model？可能用何种训练数据？LLM和RM融合后的模型结构可能会是怎样的？”原文地址：htt...
一文总览OpenAI o1相关的技术：从CoT、Quiet-STaR、Self-Correct、Self-play RL、MCTS等到类o1模型rStar-Math
结构之法 算法之道
10-12 3万+
可能是去年写或讲的关于ChatGPT原理的文章和课程，影响力太大了导致​​自从OpenAI o1出来后，每过两天，就有朋友问，“校长 o1啥时候出解读或课程”，实在是各个大模型项目上的事情太多，加之近期一直在抠机器人(比如本博客内连发了五篇机器人相关的文章，再不刻意强插一下比如o1，真的很难停下来)但，今天又有朋友来问，故，准备并行开写o1了一开始，我主要是看的这几个资料但随着本文越写越深，挖出来的相关资料也越来越多，我会竭尽所能，确保本文具备以下两大特征。
张俊林：揭去神秘面纱，Sora关键技术逆向工程图解
Kaiyuan_sjtu的博客
03-22 224
后台留言『交流』，加入NewBee讨论组文章作者：张俊林新浪微博新技术研发负责人内容来源：知乎@张俊林导读：Sora生成的视频效果好吗？确实好。Sora算得上AGI发展历程上的里程碑吗？我个人觉得算。我们知道它效果好就行了，有必要知道Sora到底是怎么做的吗？我觉得最好是每个人能有知情的选择权，任何想知道的人都能够知道，这种状态比较好。那我们知道Sora到底是怎么做出来的吗？不知道。马斯克讽刺...
视频生成Sora的全面解析：从AI绘画、ViT到ViViT、TECO、DiT、VDT、NaViT等
热门推荐
结构之法 算法之道
02-18 5万+
真没想到，举例视频生成上一轮的集中爆发才过去三个月，没想OpenAI一出手，该领域又直接变天了自打2.16日OpenAI发布sora以来，不但把同时段Google发布的Gemmi Pro 1.5干没了声音，而且网上各个渠道，大量新闻媒体、自媒体(含公号、微博、博客、视频)做了大量的解读，也引发了圈内外的大量关注，很多人因此认为，视频生成领域自此进入了大规模应用前夕，好比NLP领域中GPT3的发布一开始，我还自以为视频生成这玩意对于有场景的人，是重大利好，比如在影视行业的；
【大模型】Sora关键技术逆向工程图解 | 万字长文
qq_41466440的博客
04-16 409
Sora 生成的视频效果好吗？确实好。Sora 算得上 AGI 发展历程上的里程碑吗？我个人觉得算。我们知道它效果好就行了，有必要知道 Sora 到底是怎么做的吗？我觉得最好是每个人能有知情的选择权，任何想知道的人都能够知道，这种状态比较好。那我们知道 Sora 到底是怎么做出来的吗？不知道。 马斯克讽刺 OpenAI 是 CloseAI，为示道不同，转头就把 Grok 开源了。且不论 Grok 效果是否足够好，马斯克此举是否有表演成分，能开源出来这行为就值得称赞。OpenAI 树大招风，目前被树立成技术
全球机器学习技术大会-张俊林-OpenAI o1技术原理解析
05-26
全球机器学习技术大会-张俊林-OpenAI o1技术原理解析
张俊林：Siri:I,robot! Siri语音识别系统详解
05-29
Siri是苹果公司发布的广受关注的iOS平台应用，它不...本讲座将深入分析Siri的技术原理，讲解其系统架构、语音识别系统、活跃本体、执行系统、服务系统以及输出系统等重要构成模块，使大家了解如何构造类似的智能应用。
RS-232通讯+SHA-256+AES_ECB - 128算法
ladack的博客
06-11 875
本文介绍了一个基于C语言的串口通信加密程序实现方案
【DRL】最简单的策略梯度(Policy Gradient)算法
xfxuezhang.cn
06-12 401
最简策略梯度(Policy Gradient)算法的实现
用Java实现常见排序算法详解
m0_66884848的博客
06-13 847
本文介绍了6种常见排序算法的Java实现，包括冒泡、选择、插入排序等基础算法，以及快速、归并、堆排序等高效算法。对每种算法从基本思想、时间复杂度分析和Java代码实现三个方面进行详细说明，展示了排序算法的核心逻辑和性能特点。这些排序方法在计算机科学中具有广泛应用，理解其原理和实现有助于提升编程能力和算法思维。
最小费用最大流算法
最新发布
u011322421的博客
06-14 360
最小费用最大流算法通过SPFA寻找费用最短增广路，使用链式前向星存储正向边和反向边。每次沿最便宜路径增广流量，更新边容量和反向边，最终获得最大流量和最小费用。该算法的核心在于反向边的"反悔"机制和贪心选择策略。时间复杂度主要取决于SPFA的执行次数，适用于解决带费用约束的网络流优化问题。
C语言二维数组的使用详解
轩宇的博客
06-13 597
二维数组是C语言中处理表格、矩阵等结构化数据的重要工具。它本质上是一种特殊的一维数组，其中每个元素又是一个一维数组。下面将详细介绍二维数组的使用方法、内存布局、访问方式及常见应用场景。
算法刷题-回溯
2301_81754159的博客
06-09 969
今天给大家分享的还是一道关于dfs回溯的问题，对于这类问题大家还是要多刷和总结，总体难度还是偏大。对于回溯问题有几个关键点：1.首先对于这类回溯可以节点可以随机选择的问题，要做mian函数中循环调用dfs（i，obj），同时在dfs中要对后面的节点再次进行调用，还是使用dfs。2.对于使用过的节点用vis进行记录，而递归出口则是flag。3.注意在dfs选择后，要对这一次的递归选择进行回溯，下面这道题在dfs内的调用以及main函数中的调用都有显示。
可视化图解算法50：最小的K个数
weixin_42117918的博客
06-10 706
对于数据结构与算法，我们总结了一套【可视化+图解】方法，依据此方法来解决相关问题，算法变得易于理解，写出来的代码可读性高也不容易出错。
【算法专题训练】01、整数基础知识
Tim_10的博客
06-10 394
【代码】【算法专题训练】01、整数基础知识。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

强化学习曾小健

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值