大模型(LLM)是一种人工智能模型,旨在理解和生成人类语言。它们在大量的文本数据上进行训练,可以执行广泛的任务,包括文本总结、翻译、情感分析等等。LLM的特点是规模庞大,包含数十亿的参数,帮助它们学习语言数据中的复杂模式。这些模型通常基于深度学习架构,如转化器,这有助于它们在各种NLP任务上取得令人印象深刻的表现。
2022年底,OpenAI 推出的基于 GPT-3.5 的大型语言模型 ChatGPT,由于其优秀的表现,ChatGPT 及其背后的大型语言模型迅速成为人工智能领域的热门话题,吸引了广大科研人员和开发者的关注和参与。
本周精选了5篇LLM领域的优秀论文,为了方便大家阅读,只列出了论文标题、AMiner AI综述等信息,如果感兴趣可点击查看原文,PC端数据同步(收藏即可在PC端查看),每日新论文也可登录小程序查看。
如果想要对某篇论文进行深入对话,可以直接复制论文链接到浏览器上或者直达AMiner AI页面:
https://www.aminer.cn/chat/g/explain?f=cs
1.POLCA: Power Oversubscription in LLM Cloud Providers
本文讨论了大规模语言模型(LLM)在云计算环境中对数据中心GPU计算能力需求的显著增长,并指出数据中心的一个关键瓶颈是电力资源。随着LLM模型规模的增大,其对电力的需求也日益增加。研究显示,在LLM集群中过订阅电力可以显著提高数据中心的电力效率,允许在同一数据中心部署更多的可部署服务器,并减少部署时间,因为建设新数据中心的过程较慢。通过广泛研究各种LLM及其配置的电力消耗模式,确定了推理和训练电力