[深入探索Oracle Cloud Infrastructure中的LangChain整合与生成式AI]-优快云博客

本文链接：https://blog.youkuaiyun.com/tt_jishu/article/details/144618279

# 深入探索Oracle Cloud Infrastructure中的LangChain整合与生成式AI

Oracle Cloud Infrastructure (OCI) 是一个强大的云服务平台，提供了一系列的先进技术解决方案。其中，OCI Generative AI 和 OCI Data Science Model Deployment 提供了令人兴奋的功能，可以在多个用例中发挥作用。这篇文章旨在帮助您了解如何使用这些服务以及结合 LangChain 集成进行更高效的 AI 开发。

## OCI Generative AI 服务介绍

OCI Generative AI 是一个完全托管的服务，提供一系列可定制的大型语言模型 (LLMs)。这些模型覆盖了广泛的用例，并通过一个统一的 API 提供。您可以访问预训练的模型，或者基于您自己的数据在专用的 AI 集群上创建和托管您自己微调的自定义模型。

### 如何开始

要使用 OCI Generative AI 服务，需要安装最新的 `oci` Python SDK 和 `langchain-community` 包：

```bash
pip install -U oci langchain-community

使用示例

以下是一些基本用法示例：

from langchain_community.chat_models import ChatOCIGenAI
from langchain_community.llms import OCIGenAI
from langchain_community.embeddings import OCIGenAIEmbeddings

# 使用 API 代理服务提高访问稳定性
api_endpoint = "{AI_URL}"

# 初始化生成式 AI 模型
chat_model = ChatOCIGenAI(api_endpoint=api_endpoint)
llm = OCIGenAI(api_endpoint=api_endpoint)
embeddings = OCIGenAIEmbeddings(api_endpoint=api_endpoint)

OCI 数据科学模型部署

OCI Data Science 是一个完全托管的无服务器平台，允许数据科学团队构建、训练和管理机器学习模型，并通过 OCI Data Science Model Deployment Service 部署它们。对于使用 VLLM 或 TGI 框架部署的 LLM，可以使用 OCIModelDeploymentVLLM 或 OCIModelDeploymentTGI 类进行交互。

如何开始

请确保安装了最新的 oracle-ads Python SDK：

pip install -U oracle-ads

使用示例

from langchain_community.llms import OCIModelDeploymentVLLM
from langchain_community.llms import OCIModelDeploymentTGI

# 使用 API 代理服务提高访问稳定性
api_endpoint = "{AI_URL}"

# 与模型交互
model_vllm = OCIModelDeploymentVLLM(api_endpoint=api_endpoint)
model_tgi = OCIModelDeploymentTGI(api_endpoint=api_endpoint)