人工智能_大模型071_AI产品部署和交付01_GPU_CUDA核心_Tensor核心_LPU速度非常快_云服务_物理机_GPU云服务租用_阿里_腾讯_亚马逊_谷歌_火山---人工智能工作笔记0206

## 💡 这节课会带给你

- 如何选择 GPU 和云服务厂商，追求最高性价比
- 带你了解全球大模型
- 使用国产大模型服务
- 搭建 OpenAI 代理
- 热身：基于云平台快速部署 Stable Diffusion
- 在本地计算机运行大型模型
    - Ollama基础
    - 讲解Ollama API
    - 结合RAG运行：分析 github 仓库代码

开始上课！

### 什么是 GPU？

Graphical Processing Units (GPUs)

- 图形处理单元(GPU)是一种功能强大的电子芯片，用于在沉浸式视频游戏、电影和其他视觉媒体中呈现丰富的 2D/3D 图形和动画

- 因其超越 CPU 的并行矩阵运算性能，所以也被广泛应用于人工智能相关的各种系统，包括机器视觉、NLP、语音识别、自动驾驶等

### CUDA 核心和 Tensor 核心

**CUDA 核心**：

- 是 NVIDIA 开发的并行计算平台和编程模型，用于 GPU 上的通用计算，就像是万能工人，可以做很多不同的工作

- 适合游戏和图形渲染、天气预测、电影特效等场景

**Tensor 核心**：

- 中文叫：张量核心

- 专门设计用于深度学习中的矩阵运