Neel Somani——AI 优化的挑战与未来

Neel Somani 指出，尽管人工智能看起来依赖数据和算法运行，但真正驱动其发展的核心是“优化”。在他看来，从训练大型语言模型到部署实时决策系统，每一次突破本质上都是在更大规模上解决优化问题。优化不仅是数学工具，更是现代人工智能赖以运作的语言。
作为研究者、技术专家与创业者，Neel Somani 在这一话题上拥有独特视角。他毕业于加州大学伯克利分校，主修数学、计算机科学和商业三门专业，曾在 Airbnb 和 Citadel 任职，并于 2022 年创立了 Eclipse——基于 Solana 虚拟机的以太坊高速二层网络，并已完成 6500 万美元融资。除了区块链领域，Neel 也活跃于天使投资与公益事业，如今正将关注点转向人工智能前沿的新项目。
AI 优化面临的挑战
尽管优化推动了人工智能的诸多突破，但它也暴露出新的局限。当优化在错误方向上“过度有效”时，往往会带来意料之外的问题。
奖励漏洞（Reward Hacking）：在强化学习中，智能体可能会钻规则漏洞——以设计者未预期的方式获得高奖励。例如，本应学习走路的机器人，可能利用模拟器的漏洞获得高分，而不是学会自然步态。
偏差放大（Bias Amplification）：如果优化目标是提升在带偏见数据集上的准确率，模型可能会进一步强化这些偏差。优化本身并不理解“公平”，它只会追求数字表现的提升。
过拟合（Overfitting）：过度优化可能让模型“记住”训练数据，而无法迁移到真实场景中，削弱其实际应用价值。
这些问题提醒我们：优化的效果取决于我们设定的目标。选择正确的目标函数，与优化过程本身同样重要。
优化：人与 AI 的对话方式
理解“优化是人工智能的语言”，能帮助我们重新思考人与 AI 的交互方式。人类并不仅仅是在“让 AI 做事情”，而是在为系统设定目标、约束条件与反馈信号，然后让优化来推动执行。
这也是为什么“对齐”（alignment）与“安全性”（safety）如此重要。如果 AI 试图优化一个与人类价值不完全一致的目标，最终结果就可能偏离甚至有害。研究者越来越关注设计包含效率、准确性之外，也涵盖伦理、可解释性与信任等维度的目标函数。
在实践中，优化在 AI 与人之间形成一个不断循环的反馈过程：
人类设定目标，系统执行优化；
人类观察结果，再调整目标；
如此循环往复。
这一过程更像是一种“对话”——不是用语言，而是用优化标准进行的协商。
Somani 表示：“与 AI 互动并不是发出命令，而是设定正确的目标。如果目标设定偏差，优化出来的结果可能在技术上正确，但在实际应用中却会造成问题。”
AI 优化的未来方向
随着人工智能继续进步，优化也将朝多个方向演化：
多目标优化（Multi-Objective Optimization）：未来系统需要在准确性、公平性、效率、可解释性等多个目标之间取得平衡，而不是只优化单一指标。
神经架构搜索（Neural Architecture Search）：优化将用于自动设计更优的模型结构，为特定问题打造量身定制的架构。
能耗感知优化（Energy-Aware Optimization）：随着 AI 的能源消耗不断增加，节能优化将成为重要目标。
人类参与的优化（Human-in-the-Loop Optimization）：未来系统将更多融入人类反馈，让优化路径结合机器的精确与人类的判断。
人工智能的未来，也将是优化方法不断演进的未来——更加智能、安全且具备细致分辨力。
优化不仅是数学工具，更是现代 AI 的核心语言。从训练深度神经网络，到为全球数十亿用户提供服务，AI 生命周期的每一步都依赖优化。优化推动学习、提升性能，也塑造系统与环境的互动方式。
但像所有语言一样，如果使用不当，优化也可能造成误解或错误。其真正力量来自于目标清晰、设计合理的目标函数。为了让 AI 更好地服务人类，我们需要掌握这门语言——不仅作为工程师或研究者，也作为共同塑造未来智能社会的参与者。
下次当你听到某项 AI 突破时，不妨记住：幕后真正“发声”的，是优化。