lmj3732018的博客

这个数据可以有点偏大，我在实测过程中，部署llama3:14b的大模型，占用了仅16G内存，触发推理时会多一些，这个数据可作为参考。它特别适合大规模深度学习任务，通过高效的架构在性能和能源消耗上表现出色。：若需高速下载，尤其依赖于 GitHub 或 Docker 官方镜像，建议选择国外服务器。Google Cloud 提供 TPU 服务，允许用户根据需求使用，无需购买硬件。TPU 可以更快地完成任务，同时消耗较少的能源，降低成本。适合需要快速响应的任务，如实时图像识别和文本分析。

总的来说，ViT是一种以较低的计算成本得到更精确的图片的计算方法，它有效的平衡计算复杂度和特征捕捉能力。ViT模型的产物仍然是一个图片向量，它并没有解决 图片到文本的转化过程CLIP模型CLIP（Contrastive Language-Image Pretraining）模型通过对比学习方法，将图像和文本映射到同一个向量空间中，实现了对图像和文本的联合理解。它能够有效处理图像分类、图像检索、零样本学习等任务，展现了强大的多模态处理能力。通过在大规模数据集上的预训练，CLIP具备了广泛的应用前景和潜力。

GPTs 和 Assistants API 本质是降低开发门槛

Function Calling 是一种函数调用机制，在使用 大模型进行prompt 提问时，大模型现有的知识库不一定有能力立即回答你的问题，但我们在提问时可以告诉大模型，我们有几个函数，让它结合我们的提问告诉程序，应该去调用哪个函数，并从给的提问中解析出参数。程序会根据大模型返回的函数和入参生成一个结果。然后程序将 最初的提问和函数调用结果一并发给 大模型进行 prompt ，这个时候，大模型就能回答出我们的问题了。1. 我们调用API向大模型提问：推荐北京五道口附近的咖啡店。

从而在几乎不影响最终效果的情况下降低向量检索与相似度计算的复杂度。text-embedding-ada-002 只支持1536维计算。

提示工程也叫「指令工程」。Prompt 就是你发给大模型的指令，比如「讲个笑话」、「用 Python 编个贪吃蛇游戏」、「给男/女朋友写封情书」等貌似简单，但意义非凡「Prompt」 是 AGI 时代的「编程语言」「Prompt 工程」是 AGI 时代的「软件工程」「提示工程师」是 AGI 时代的「程序员」学会提示工程，就像学用鼠标、键盘一样，是 AGI 时代的基本技能提示工程「门槛低，天花板高」，所以有人戏称 prompt 为「咒语」

基于机器学习、神经网络的是 AI，基于规则、搜索的不是 AI。