一堂课，学会用NIM部署AI大模型， 构建RAG

一 NIM课程概述

目标： 通过nvidia的AI分享课，了解NIM的概念和使用，另附一个使用NIM微服务部署大模型构建RAG的实验（课程目前 free，云上有环境，地址：Course Detail | NVIDIA）

关键词：集成生成式AI，微服务，语言模型，批量推理，检索增强生成（RAG），词嵌入，工作流（workflow），流式传输，托管，从文档到文本块，索引文档

使用技术栈：LangChain，python，FAISS，

优势（吸引我的）：应用行业API标准，可部署至数据中心或工作站，有实例可供快速应用，可以随云扩展，适配基础设施

总结：如果你想搭建知识库（私有的、部门的或者企业的），如果你想评测主流的语言模型，如果你想快速迭代自己的产品，如果你在担心自己的数据安全和上车大模型应用的道路里左右为难，如果你不想在AI推理上投入较多的时间，如果你挑剔本地还是云端的使用环境， 如果你在意语言模型per token waste money的成本，如果你想对AI开箱即用，NIM显然是个不错的选择。

二 NIM应用概述