mc_dudu233的博客

我们的目标不是用CPU来推理，而是用CPU的核心显卡来推理DeepSeek大模型！！！现在 llama.cpp 已经支持 OpenCL 后端，因此我这里采用 Llama.cpp + OpenCL 来运行DeepSeek大模型。OpenCL（开放计算语言）是一个开放的、免版税的标准，用于跨平台、并行编程超级计算机、云服务器、个人计算机、移动设备和嵌入式平台中的各种加速器。OpenCL用于对这些设备和应用程序编程接口（API）进行编程，以控制平台并在计算设备上执行程序。与CUDA类似，OpenCL已被广泛用于G

AutoGPT 是一种基于 GPT-4 的自主代理（autonomous agent），它能在不需要大量人工干预的情况下，自动执行一系列复杂的任务。AutoGPT 的工作原理是利用大型语言模型（如 GPT-4）的自然语言处理能力，结合自我反馈循环机制，从而实现任务的自动化处理。

GPT4All是能够在你的笔记本或者台式计算机运行的大型语言模型（LLMs）。它并不强制需要GPU，CPU也能流畅的运行该语言模型。

神经网络是一种模拟生物神经系统的数学模型，通过层层神经元连接和训练来处理和识别信息，广泛应用于图像识别、自然语言处理、语音识别等领域。训练过程包括前向传播、损失函数计算、反向传播和梯度下降优化。