关于我的学习记录

是由 NVIDIA 开发的一种，旨在实现 GPU 与 GPU 或 GPU 与 CPU 之间的高带宽、低延迟通信。它通过专用的硬件互连通道，比传统的 PCIe 通信速度更快。

原因在于GGUF采用了多种技术来保存大模型预训练结果，包括采用紧凑的二进制编码格式、优化的数据结构、内存映射等。注意：llama.cpp官方提供了。

Webui vs ComfyuiComfyui 和 Webui 都是基于 Stable Diffusion 开发，实现文生图、图生图、ControlNet 控制、高清放大、局部重绘、Animatediff 生成视频等Webui 具有整合好的可视化界面，可以在浏览器上对各个参数进行点击、选择，学习成本低 Comfyui 是一个基于节点式的操作流程，没有固定的整合使用界面，一个个被线连接的节点，构成一个从输入到输出的完整工作流程 相比于 Webui 只能按照预设好的方式，调节有限的参数来进行

在公有云中，所有硬件、软件和其他支持性基础结构均为云提供商所拥有和管理。这样，私有云可使组织更加方便地自定义资源，从而满足特定的 IT 需求。私有云的使用对象通常为政府机构、金融机构以及其他具备业务关键性运营且希望对环境拥有更大控制权的中型到大型组织。但是，在私有云中，服务和基础结构始终在私有网络上进行维护，硬件和软件专供组织使用。多种不同的云计算模型、类型和服务已得到发展，可以满足组织快速变化的技术需求。部署云计算资源有三种不同的方法：公共云、私有云和混合云。私有云：自己搭建云平台，或者购买。

Llama 系列简介与 Llama3 预训练模型推理

Comfyui 和 Webui 都是基于 Stable Diffusion 开发，实现文生图、图生图、ControlNet 控制、高清放大、局部重绘、Animatediff 生成视频等。Comfyui 是一个基于节点式的操作流程，没有固定的整合使用界面（有很多在线平台，LiblibAI 也是其中之一）、条件（添加在加载器和K采样器之间，例如正向提示词和负向提示词，充当指挥官，设定生成条件）、采样、Latent、图像。Webui 具有整合好的可视化界面，可以在浏览器上对各个参数进行点击、选择，学习成本低。

大模型简介与发展历程

FastAPI 是一个快速的Web框架，用于构建 API

高 QPS 表示系统有更强的并发处理能力，能够在单位时间内处理更多的请求，测试 QPS 可以了解系统在高负载下的性能。，它是衡量一个系统处理能力的重要指标，通常用于评估 web 服务器、数据库或其他服务在单位时间内能够处理的请求数量。（ Queries Per Second ） 指。

边缘计算设备与部署方案

AI项目开发过程与常见交付形态