ChatGPT研究(二)——ChatGPT助力跨模态AI生成应用

✏️写作：个人博客，InfoQ，掘金，知乎，优快云

📧公众号：进击的Matrix

🚫特别声明：创作不易，未经授权不得转载或抄袭，如需转载可联系小编授权。

前言

最近ChatGPT，想必大家已经是耳熟能详了，一度认为ChatGPT的到来是人工智能的奇点到来，那么到底ChatGPT是什么？为什么ChatGPT为代表的人工智能技术不仅受到平民用户的喜爱，还受到资本市场追捧呢？

上篇文章《ChatGPT研究(一)——AI平民化的里程碑》中初步讲解了ChatGPT的发展里程碑和各大科技公司的AI投入，本篇文章将会更多的从技术角度，解读ChatGPT的AI发展和应用。本公众号计划出三期，多维度研究分析ChatGPT，敬请期待😘。

基于人类反馈系统，ChatGPT助力跨模态AI生成应用

ChatGPT经历多类技术路线演化，逐步成熟与完善

• ChatGPT所能实现的人类意图，来自于机器学习，神经网络以及Transformer模型的多种技术模型积累

ChatGPT模型在以往的基础上有了多方面的显著提升

Transformer的应用标志着基础模型时代的开始

• 转移学习(Transfer Learning)使基础模型成为可能

✔️ 技术层面上，基础模型通过转移学习(Transfer Learning)(Thrun 1998)和规模(scale)得以实现。转移学习的思想是将从一项任务中学习到的“知识”(例如，图像中的对象识别)应用于另一
项任务（例如：视频中的活动识别）。

✔️ 在深度学习中，预训练又是转移学习的主要方法：在替代任务上训练模型(通常只是达到目的的一种手段)，然后通过微调来适应感兴趣的下游任务，转移学习(Transfer Learning)使基础模
型成为可能。

• 大规模化(scale)使基础模型更强大，因而GPT模型得以形成<