HyperAI超神经 x 开源中国 | 5 月 26 日源创会·深圳站来袭，轰趴馆等你-优快云博客

5 月 26 日，OSC 源创会 · 深圳站

来自 Gitee AI、昇思、讯飞、IDEA研究院的业界专家

探讨大模型技术在终端的应用

分享编程语言对端侧代码生成实现的优化

以及 Serverless 推理引擎对于大模型推理效能的提升作用等

快来和 HyperAI超神经一起聚焦大模型技术吧！

会议概况

* 会议时间：2024 年 5 月 26 日（周六） 14:00-18:00

* 会议地点：深圳福田区岗厦北地铁站15号口满纷轰趴馆

* 报名方式：点击文末「阅读原文」

活动简介

* 主题介绍

本次技术沙龙将深入探讨大模型技术在智能终端领域的应用与发展，以及支持大模型技术发展的一些关键技术，如编程语言及开发者工具对于端侧代码生成实现的优化，Serverless 推理引擎对于大模型推理效能的提升作用等等。

为了让各位 OSCer 能有更好的参会体验，我们精心挑选了一家轰趴馆，集学习、交友、娱乐休闲于一体！快叫上开发者好友一起来玩！

议程设置

昇思 MindSpore 大模型训练技术分享

演讲嘉宾：姚逸璠，昇思 MindSpore 大模型高级工程师
议题简介：

以大模型、大数据、大算力驱动的超大规模 AI 正成为下一代人工智能的突破口，也是迈向通用强人工智能最有潜力的技术方向之一。

昇思 MindSpore 构建了多维度混合并行、多维度内存优化、图算融合等关键技术，支撑了 20+ 大模型的训练。并在 2021 年联合高校及科研院所协同创新，发布了鹏程盘古 NLP 大模型、中科院紫东太初图文音多模态大模型、鹏程神农蛋白质结构大模型、武大珞珈遥感大模型等。

本次分享分享基于昇思 MindSpore 的大模型的最新进展和成果，介绍昇思 MindSpore 超大规模 AI 训练、微调、压缩、部署全流程关键技术，如何使用这些关键技术在昇腾大集群上训练大模型，以及昇思 MindSpore 上的大模型如何助力产业发展。

星火大模型+智能硬件的应用创新

演讲嘉宾：郑重阳，讯飞开放平台产品
议题简介：

智能硬件行业面临产品同质化、创新乏力的痛点，导致内卷激烈、利润稀薄。AI 大模型的出现，将极大推动千行百业的智能化进程，也将极大地丰富智能硬件的应用创新。本次议题将通过对手表、键鼠和电脑 PC 行业的应用分享，期望共同开拓更深的场景创新、更多的行业应用。

端侧代码生成：以 MoonBit 为例

演讲嘉宾：费浩祥，IDEA 基础软件中心高级工程师
议题简介：

IDE 作为开发者的主要工具，它能够实时响应用户对输入、在离线情况下工作、对检索代码库进行智能提示和补全。这次分享将以 MoonBit 为例，介绍端侧模型在代码生成中的优势，以及 MoonBit IDE 对于端侧代码生成实现的优化。

使用 Serverless 推理引擎提升大模型推理效能

演讲嘉宾：林家桢-Gitee AI 专家顾问、清华大学高性能计算所
议题简介：

大模型原生应用正在爆发，未来推理算力的需求可能将达到训练算力需求的数十余倍，据Gartner数据，2023年70%的AI应用基于 Serverless 技术开发。在实际生产中，越来越多的AI业务，比如自动驾驶、NLP等，也正在转向容器化部署。云原生理念是是否有机会帮助大模型降本增效？在这个过程中又遇到了哪些挑战？

主办方信息

* 主办单位：开源中国

* 联合主办：华为

奖品池