VS Code中AI Toolkit扩展的使用

该文章已生成可运行项目,

      AI Toolkit for VS Code通过集成工具和模型简化了生成式AI应用程序的开发。AI Toolkit是VS Code的一个扩展,可帮助开发人员和AI工程师通过在本地或云端开发和测试生成式AI模型来轻松构建AI应用程序。AI Toolkit支持市场上大多数生成式AI模型。AI Toolkit支持在Windows、Mac和Linux运行。GitHub地址:https://github.com/microsoft/vscode-ai-toolkit

      安装:AI Toolkit作为Visual Studio Code扩展(插件)提供,使用它首先需要安装最新版VS Code。打开VS Code,点击VS Code中的Extensions,搜索AI Toolkit,所示结果显示"AI Toolkit for Visual Studio Code",点击Install,如下图所示:

      使用

      1.点击左侧的"AI Toolkit"图标,界面如下图所示:

      2.点击"CATALOG"下的Models,Add一个模型,也可输入模型名进行搜索:

      (1).支持模型过滤:

      托管方(Hosted by):支持GitHub、ONNX、OpenAI、Anthropic、Google、Ollama、Nvidia作为模型托管源。

      发布者(Publisher):AI模型发布者,支持Microsoft、Meta、Google、OpenAI、Anthropic、Mistral AI等。

      模型类型(Model type):既支持在本地CPU、GPU、NPU运行模型,也支持远程云端访问模型。

      (2).模型需要发布者或托管方服务许可证和帐户登录。如下载托管方为GitHub的,下载模型时会要求你账号的授权。

      (3).单击模型目录中的每个模型卡(model card),可显示该模型的更多详细信息,如单击DeepSeek-R1,会打开DeepSeek-R1-README.md。

      (4).在每个模型卡上,有三个选项:

      Try in Playgroud:与所选AI模型进行交互

      Try in Prompt Builder: 提示词,点击Run以生成响应

      Try in Bulk Run: 批量运行提示词,执行批处理任务

      3.Add成功后的模型会显示在左侧的"MY MODELS"下,选中模型,如DeepSeek-R1,点击右键,Load in Playgroud。如输入:如何成为AI工程师,回复结果如下图所示:

本文章已经生成可运行项目
### CloudBase AI Toolkit 使用指南与配置教程 CloudBase Framework 是一个云原生一体化部署工具,能够帮助开发者快速构建和部署基于无服务器架构的应用程序[^1]。此外,CloudBase 提供了服务端云函数、数据库、存储、托管、CDN 等核心能力,并配备了强大的开发工具、一体化部署、云端调试等功能[^2]。以下为 CloudBase AI Toolkit 的安装、配置及使用指南。 #### 1. 安装 CloudBase CLI 工具 在开始之前,请确保已安装 Node.js(版本 >= 10.0)。接下来,可以通过 npm 安装 CloudBase CLI: ```bash npm install -g @cloudbase/cli ``` 安装完成后,运行以下命令检查是否成功安装: ```bash cloudbase --version ``` 如果显示版本号,则表示安装成功。 #### 2. 初始化项目 通过以下命令初始化一个 CloudBase 项目: ```bash cloudbase init ``` 此命令会引导用户完成项目配置,包括选择模板、设置环境变量等。 #### 3. 配置 CloudBase 环境 在项目根目录下找到 `cloudbase.config.json` 文件,编辑其中的配置项以适配自己的需求。例如: ```json { "envId": "your-env-id", "region": "ap-guangzhou", "functions": [ { "name": "ai-function", "handler": "index.main", "runtime": "Nodejs14" } ] } ``` - `envId`: 替换为你的 CloudBase 环境 ID。 - `region`: 替换为你希望部署的区域。 - `functions`: 定义需要部署的云函数及其运行时环境。 #### 4. 部署 AI 模型或服务 假设你已经有一个预训练的 AI 模型或服务代码,可以将其封装为云函数并部署到 CloudBase 平台上。以下是一个简单的示例代码片段,展示如何在 Node.js 中加载模型并提供 RESTful API 接口: ```javascript const tf = require('@tensorflow/tfjs-node'); exports.main = async (event, context) => { const model = await tf.loadLayersModel('file://model.json'); const input = tf.tensor2d(event.data, [1, model.inputs[0].shape.slice(1)]); const prediction = model.predict(input); return prediction.arraySync(); }; ``` 将上述代码保存为 `index.js` 文件,并确保模型文件(如 `model.json` 和相关权重文件)位于同一目录下。 #### 5. 测试与调试 部署完成后,可以通过以下命令测试云函数: ```bash cloudbase call ai-function --data '{"data": [1.0, 2.0, 3.0]}' ``` 这将调用名为 `ai-function` 的云函数,并传递 JSON 数据作为输入。 #### 6. 集成其他功能 CloudBase 支持多种开发语言,包括 JavaScript、TypeScript、Node.js、Python 和 Java 等[^2]。如果你的 AI 模型是用 Python 编写的,可以选择 Python 运行时环境进行部署。 此外,CloudBase 还提供了数据库、存储、托管、CDN 等功能,可以与 AI 模型无缝集成,进一步提升应用性能和用户体验。 ---
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值