点击左上方蓝字关注我们

自然语言处理在线打卡营第13场直播开讲啦!
直播时间
6月24日(今晚)20:30 正式开讲!

直播内容
预训练语义表示模型参数量持续膨胀的今天,如何在生产环境中高效地部署这些模型成为了重点难题。本课程从理论基础开始介绍模型压缩提速的基本方案,包括模型蒸馏、量化、裁剪,并结合产业实践介绍针对Transformer模型的高效推理加速方案,最后手把手完成模型压缩部署的动手实践环节。
本次直播课由百度NLP资深研发工程师,语义表示与计算核心成员陈老师为大家解析理论部分《预训练模型产业实践课》。由百度深度学习技术平台部资深研发工程师郭郭老师为大家讲解实践项目《预训练模型小型化与部署实战》。
实践项目地址
https://aistudio.baidu.com/aistudio/projectdetail/2114383
直播提纲
纸上得来终觉浅,绝知此事要躬行。学了那么多知识,产业实践专题终于来啦!今晚的课程只有一个目的,给大家讲明白如何用这件事!
01
背景介绍
02
模型小型化理论基础
03
工程实践案例
04
动手实践:预训练模型小型化与部署实战
(1)介绍蒸馏与数据增强
(2)将ERNIE模型蒸馏至BiLSTM小模型
(3)介绍推理部署的目的和效果
(4)演示飞桨2.0动转静和LSTM模型部署
各位摩拳擦掌的同学们,可以小小的露一手啦!(特别是爱鼓捣开发板的同学们,搞起!)
讲师介绍
陈老师

百度资深研发工程师
毕业于中山大学,百度NLP资深研发工程师,语义表示与计算核心成员。
郭郭

百度资深研发工程师
毕业于武汉大学,飞桨NLP方向核心开发人员,从事飞桨框架、NLP工具和模型套件多项开发工作,具有模型落地部署经验,完成百度翻译预测模型的性能优化和上线。
直播地址


扫二维码|直播学习、实时交流
B站直播+社群答疑+实践
理论+实战,进击NLP!

????扫码入群,一起交流进步????

(课程Q群号:758287592)
跟着NLP领域一线研发学,着眼实际,学以致用!(点击阅读阅文,进入课程。)
飞桨(PaddlePaddle)以百度多年的深度学习技术研究和业务应用为基础,集深度学习核心训练和推理框架、基础模型库、端到端开发套件和丰富的工具组件于一体,是中国首个自主研发、功能完备、开源开放的产业级深度学习平台。飞桨企业版针对企业级需求增强了相应特性,包含零门槛AI开发平台EasyDL和全功能AI开发平台BML。EasyDL主要面向中小企业,提供零门槛、预置丰富网络和模型、便捷高效的开发平台;BML是为大型企业提供的功能全面、可灵活定制和被深度集成的开发平台。
END

1854

被折叠的 条评论
为什么被折叠?



