Apple Intelligence模型细节

介绍苹果的设备端和服务器基础模型

在2024年全球开发者大会（WWDC）上，苹果推出了Apple Intelligence，这是一个深度集成到iOS 18、iPadOS 18和macOS Sequoia中的个人智能系统，并公布相关技术细节，整理关键点如下。原文链接

Apple Intelligence由多个高度能产的生成模型组成，专门用于我们用户的日常任务，并能根据当前活动即时适应。构建在Apple Intelligence中的基础模型已经被微调，以改善用户体验，例如撰写和完善文本、优先排序和总结通知、为与家人和朋友的对话创建有趣的图像，以及在应用程序中采取行动以简化跨应用程序的交互。

在以下概览中，我们将详细介绍其中的两个模型——一个约30亿参数的设备端语言模型，以及一个更大的服务器基础语言模型，该模型可通过Private Cloud Compute获得，并在苹果硅服务器上运行——它们的构建和适应方式，以高效、准确和负责任地执行专门任务。这两个基础模型是苹果为支持用户和开发者而创建的更大家族生成模型的一部分；这包括一个编码模型，用于在Xcode中构建智能，以及一个扩散模型，帮助用户在信息应用等中视觉上表达自己。我们期待很快分享有关这更大家族模型的更多信息。

苹果的自研模型全家桶目前确认会有四款模型。

在本概述的其余部分，介绍如何开发高度能产、快速和节能的模型的决策的详细信息；如何接近训练这些模型；适配器如何针对特定用户需求进行微调；以及如何评估模型性能，以实现帮助性和避免LLM幻觉。

负责任AI

老生常谈，Apple Intelligence在每一步设计中都很关注用户隐私，制定了一套负责任AI原则，指导如何开发AI工具以及支撑它们的模型：

1. 用智能工具赋予用户力量：我们确定可以负责任地使用AI来创建解决特定用户需求的工具的领域。我们尊重用户选择使用这些工具来实现他们的目标的方式。
2. 代表我们的用户：我们构建深受个人化的产品，目标是真实地代表全球用户。我们不断努力避免在我们的AI工具和模型中延续刻板印象和系统性偏见。
3. 谨慎设计：我们在流程的每个阶段，包括设计、模型训练、功能开发和质量评估中采取预防措施，以识别我们的AI工具可能被滥用或导致潜在伤害的方式。我们将借助用户反馈，持续积极地改进我们的AI工具。
4. 保护隐私：我们通过强大的设备端处理和像Private Cloud Compute这样的突破性基础设施来保护我们用户的隐私。我们在训练我们的基础模型时，不使用我们用户的私人个人数据或用户交互。

以下是A