继上一次大模型微调训练营结束后,又一个训练营学习结束了,满满的收获!!!
PS,虽然最后一周在疯狂补作业,但是学的很扎实、印象很深刻!
在企业级 Agents 开发实战营学习一学期下来,很有帮助,感谢彭老师、萌萌班班、助教豆浆的陪伴和督促,现对于整个学期做个总结如下:
1、目前在什么岗位做什么?
目前在做AI数据开发、AI场景Agent开发。
涉及从业务数据、数据处理、模型微调训练、Agent设计和开发、上线应用部署全流程工作任务。
2、为什么选择报名学习此训练营?
①授课老师的专业性
②彭靖田老师
③最新的Agent企业级开发思路、方法、直播、课件,体系化的内容、丰富的非常有价值的案例:
- GitHub Sentinel Agent 分析报告
- 对话式英语私教(LanguageMentor) Agent
- 基于多模态的ChatPPT制作
中间还穿插着各种所需的技术细节,包括概念和使用。
3、课程讲的如何?这个课程你的收获是什么?
很有收获,2024年最有价值的投资之一。
收获了上述3个Agent的构建流程、思路、前沿的论文、丰富的扩展资料。
概念
初探大模型:起源与发展
- 预热篇:解码注意力机制(Attention)
- 变革里程碑:Transformer 的崛起
- 走向不同:GPT 与 Bert 的选择
GPT 模型家族:从始至今
- 从 GPT-1 到 GPT-3.5:一路的⻛云变幻
- ChatGPT:赢在哪里
- GPT-4:一个新的开始
GPT 大模型使用最佳实践
如何提升 GPT 模型使用效率与质量
AI 大模型提示工程最佳实践
- 文本创作与生成
- 文章摘要和总结
- 小说生成与内容监管
- 分步骤执行复杂任务
- 评估模型输出质量
- 构造训练标注数据
- 代码调试助手
- Playground Chat:实践 GPT 大模型提示工程
大模型时代的 Agent 开发方法论
设计和研发一款 Agent 的团队分工
- 产品经理:定义产品愿景和战略,制定计划,协调团队,收集和分析用户反馈
- 数据科学家:进行数据处理和机器学习模型构建,优化和部署模型
- 软件工程师:开发和维护前后端代码,实现 API 和接口,确保系统性能和安全
- 设计师:设计用户界面和用户体验,创建视觉元素和品牌标识
- 运维工程师:配置和维护服务器,部署容器化应用,监控和优化系统性能
- 市场营销:制定和执行市场推广策略,创建宣传材料,进行市场活动
- 客户支持:回答用户问题,收集反馈,提供培训,维护用户满意度
与 ChatGPT 结对研发闭环的工作模式
- 市场调研和竞争分析:收集和分析市场数据,提供竞争对手分析报告
- 用户反馈分析:处理用户反馈,进行情感分析,总结问题和建议
- 内容创建:创建市场宣传材料、博客文章、社交媒体内容等
- 客户支持:提供自动化客户支持,回答常见问题并解决基本问题
- 文档和报告编写:编写技术文档、用户手册和产品报告
- 产品设计初期阶段:提供用户界面设计建议和初步原型
- 开发支持:提供代码示例,解决编程问题,进行代码审查
AI Agent 和 ReAct 理论简介
- AI Agent 概述
- AI Agent 的定义和示例
- AI Agent 的应用场景
- ReAct 理论和主动学习
- ReAct 理论在 AI Agent 中的应用
开源哨兵(GitHub Sentinel)Agent 立项与概念验证
GitHub Sentinel 项目立项
- 市场分析:明星开源项目的投资与商业价值
- 需求调研:GitHub 开源项目进展报告
- 产品设计:GitHub Sentinel 项目功能概述
- 技术方案:基于 GPT-4 的 Agent 架构设计
- 综合评估:GitHub Sentinel 研发成本与竞品分析
GitHub Sentinel 概念验证
- 闭源大模型分析能力:ChatGPT 4o
- 开源大模型分析能力:LLaMA 3 8B
开发环境与基础框架搭建
- 安装和配置开发工具(VS Code,Python 等)
- 基本的大模型开发环境设置
- Fork 并配置 GitHub 项目仓库
- 初始化项目(OpenAI + LangChain)
- 项目目录结构介绍
GitHub Sentinel Agent 分析报告功能设计与实现
GitHub Sentinel Agent 定期更新功能设计与实现
GitHub Sentinel Agent 用户界面设计与实现
GitHub Sentinel Agent 高级功能与容器化部署
高级功能
- 实现 PDF 报告生成功能
- 实现 Word 报告生成功能
- 实现 第三方服务推送(如企业微信)
容器化部署
- 使用 DockerFile 编写项目依赖环境
- 使用 Docker 打包项目
- 部署到公有云平台(如:华为云、AWS、Azure)
- 配置持续集成和持续部署(CI/CD)
项目总结
- 项目复盘与总结
- 讨论项目扩展与优化的可能性
LangChain 表达式语言(LCEL) 入门与实战
LangChain Expression Language(LCEL)快速入门
- LCEL 是什么
- LCEL 设计理念与优势
- LCEL Runnable 协议设计与使用
- LCEL vs LangChain 古典语法
- LCEL 进阶使用:整合复杂逻辑的多链
实战 LCEL 开发与应用
- 最简易示例:Prompt + Chat Model + Output Parser
- 检索增强生成示例:RAG
- AI辩论示例:Multiple Chains via Runnables
英语私教(LanguageMentor) Agent 市场调研与产研设计
在线语言学习市场调研与分析
现有服务模式
- 一对一私教:提供个性化定制服务,根据学生具体需求和学习目标设计课程
- 小班授课:通常为 2-5 人的小班授课,注重互动性和竞争性
- 在线课程:通过 Zoom、Skype 等平台进行,灵活安排时间和地点,适合现代快节奏生活
- 自学课程:预录制的视频课程和在线练习,学生可以根据自己的节奏学习
现有收费模式
- 按小时收费:一对一私教课每小时收费在50-150美元不等,根据教师资质和经验而定
- 按课程收费:一些私教提供完整的课程包,按课程收取费用,通常比按小时收费更优惠
- 订阅模式:部分在线平台采用月度或年度订阅模式,提供不限次数的课程和资源访问
LanguageMentor 产品设计
- 需求总结:用户对私人语言辅导的需求和期望不断增加
核心功能
- 基础教学:涵盖词汇积累、语法学习、阅读理解和写作技巧等基础内容
- 对话式训练:模拟真实场景的对话练习,提升学生的口语表达能力和听力理解能力
用户学习路径
- 初学者:注重词汇和基础语法的学习,通过简单对话练习提高自信心
- 中级学员:结合复杂语法和高级词汇,进行更深入的阅读和写作训练
- 高级学员:重点练习口语和听力,通过模拟真实场景的对话提升实战能力
课程设计
- 词汇积累:采用词根词缀法和常用词汇表,帮助学生高效记忆单词
- 语法学习:通过系统的语法讲解和练习,夯实学生的语法基础
- 阅读理解:提供不同难度的阅读材料,训练学生的阅读速度和理解能力
- 写作技巧:指导学生如何进行段落和文章的结构化写作
LanguageMentor 技术方案
- 大模型选型:使用 Ollama 运行和管理 LLaMA 3 本地化模型
- 用户交互:基于 Gradio 的图形化聊天界面
- Agent 逻辑设计:使用 LangChain 整合复杂的逻辑链
- 综合评估:LanguageMentor 研发成本与竞品分析
ChatPPT 项目立项与概念验证
实现文本到 PowerPoint 的 ChatPPT
集成语音输入的 ChatPPT
集成图像输入与多模态提示工程设计 ChatPPT
ChatPPT Agent 容器化部署与发布
等等,太多内容了。
4、课程学完后解决的工作中的问题
主要是在工作中,构建了5个很有业务价值的Agent,收获了领导、同事和客户的一致好评。
5、对这个课程有什么意见建议?
增加更多的实战场景,场景教授的多了,真的很有价值!!!
最后,夸一下训练营的彭老师、萌萌班主任和助教豆浆,大家都一致的帮助我们认真的理解Agent企业级开发学习进度、学习程度、上课提醒、作业提醒,更重要的收获了一个很好的沟通环境,有问题直接问老师,也可以问同学,大家学习进度都很快,也分享了很多有价值的信息。
另外这个证书是真不好拿呀,作业基本上都要做,学不会的话是完不成的课程的。。。也倒逼了学员认真的学习拿到认证证书,也提高含金量~
期待后续的课程,继续投资~~~