10分钟在笔记本上安装Llama 3

最新推荐文章于 2025-02-12 08:45:35 发布

Python_金钱豹

最新推荐文章于 2025-02-12 08:45:35 发布

阅读量984

点赞数 22

文章标签： llama 人工智能 chatgpt 语言模型自然语言处理 pdf

本文链接：https://blog.youkuaiyun.com/Python_cocola/article/details/139997996

版权

简介

Ollama 是一个轻量级、可扩展的框架，旨在帮助用户在本地机器上构建和运行大型语言模型。它提供了一个简单的 API 用于创建、运行和管理模型，并附带了一个预建模型库，这些模型可以轻松地应用于各种应用程序中。

系统要求

在开始之前，请确保你的系统满足以下要求：

至少 8 GB 的内存来运行 7B 模型
16 GB 的内存来运行 13B 模型
32 GB 的内存来运行 33B 模型

无需GPU要求，能跑起来，可以玩玩

安装步骤

macOS 和 Windows

对于 macOS 和 Windows 用户，可以直接从 Ollama GitHub 页面下载预构建的安装程序。

Linux

Linux 用户可以通过运行以下命令来安装 Ollama：

curl -fsSL https://ollama.com/install.sh | sh

Docker

如果你更喜欢使用 Docker，可以从 Docker Hub 获取官方的 Ollama Docker 镜像：

ollama/ollama

快速开始

安装完成后，你可以通过以下命令运行并和 Llama 3 模型进行对话：

ollama run llama3

模型库

Ollama 支持多种模型，你可以从 ollama.com/library 下载所需的模型。以下是一些示例模型及其参数和大小：
在这里插入图片描述

实践开始安装Llama 3

1.下载Ollama

在这里插入图片描述

2.下载和运行llama3

打开命令窗口cmd

ollama run llama3

首次需要等会下载模型文件到本地，然后就可以输入对话：

在这里插入图片描述

我的笔记本配置很一般，好多年的，也能跑起来，回答速度还算可以接收

在这里插入图片描述

结语

Ollama 提供了一个强大而灵活的平台，用于在本地运行大型语言模型。无论是研究人员、开发者还是普通用户，都可以利用这个工具来探索和实现各种语言处理任务。通过上述步骤，你可以轻松地在你的机器上安装和运行大型语言模型，开启你的 AI 之旅。

如何学习大模型 AI ？

由于新岗位的生产效率，要优于被取代岗位的生产效率，所以实际上整个社会的生产效率是提升的。

但是具体到个人，只能说是：

“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。

这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

在这里插入图片描述