《生成式 AI》课程 第5講：訓練不了人工智慧？你可以訓練你自己 (下)

资料来自李宏毅老师《生成式 AI》课程，如有侵权请通知下线

Introduction to Generative AI 2024 Springhttps://speech.ee.ntu.edu.tw/~hylee/genai/2024-spring.php

摘要

这一系列的作业是为 2024 年春季的《生成式 AI》课程设计的，共包含十个作业。每个作业都对应一个具体的主题，例如真假难辨的世界、AI 应用开发、AI催眠大师、LLM 微调等。

承接上一讲：

《生成式 AI》课程 第4講：訓練不了人工智慧？你可以訓練你自己 (中)_生成式人工智能训练-优快云博客文章浏览阅读771次，点赞27次，收藏26次。这一系列的作业是为 2024 年春季的《生成式 AI》课程设计的，共包含十个作业。每个作业都对应一个具体的主题，例如真假难辨的世界、AI 应用开发、AI催眠大师、LLM 微调等。承接上一讲：《生成式 AI》课程 第3講：訓練不了人工智慧嗎？你可以訓練你自己-优快云博客作业代码 ( 后续增加)强化语言模型的方法 - 拆解任务复杂任务可拆解为多个步骤，如先写大纲再生成摘要，以提升模型处理任务的能力。_生成式人工智能训练https://blog.youkuaiyun.com/chenchihwen/article/details/143829219?spm=1001.2014.3001.5501

主要内容总结

1. 模型合作
   • 任务分配：不同能力和成本的语言模型 A、B、C 等，根据任务选择合适模型执行，展示平台服务可能涉及多个模型（如论文 “FrugalGPT” 相关研究）。
   • 模型讨论
     • 模型彼此讨论可提升效果，如 “Multi - Agent Debate” 等研究，不同任务有不同合适的讨论方式，如 “Exchange - of - Thought” 涉及 Debate、Memory、Report、Relay 等方式，且讨论可视范围不同（Fully Visible、Central Visible、Neighbor Visible、Peers Visible）。
     • 讨论停止条件：未达成共识则继续，达成共识则得出结论；讨论有不同级别要求，从完全达成共识到允许一定分歧（如论文 “https://arxiv.org/abs/2305.19118” 所述）。同时存在为反对而反对的情况及相应处理方式（如论文 “https://arxiv.org/abs/2305.14325” 所述）。
2. 引入不同角色
   • 团队需要不同角色，不同模型有不同专长，可设定如 “project manager” 等角色。例如 Code llama 相关研究，不同角色如 Programmer、User、Project manager 等分工协作，根据贡献度打分优化团队（目前学术论文多在简单任务上测试）。
   • 未来语言模型可专业分工，不同团队专注打造专业领域语言模型，如开发游戏、编写程序等任务中不同角色的协作（如 MetaGPT、ChatDev 等相关研究及项目实践），还可形成由 AI 组成的社群（如相关社交场景模拟研究及展示）。