AI Toolkit for VS Code通过集成工具和模型简化了生成式AI应用程序的开发。AI Toolkit是VS Code的一个扩展,可帮助开发人员和AI工程师通过在本地或云端开发和测试生成式AI模型来轻松构建AI应用程序。AI Toolkit支持市场上大多数生成式AI模型。AI Toolkit支持在Windows、Mac和Linux运行。GitHub地址:https://github.com/microsoft/vscode-ai-toolkit
安装:AI Toolkit作为Visual Studio Code扩展(插件)提供,使用它首先需要安装最新版VS Code。打开VS Code,点击VS Code中的Extensions,搜索AI Toolkit,所示结果显示"AI Toolkit for Visual Studio Code",点击Install,如下图所示:
使用:
1.点击左侧的"AI Toolkit"图标,界面如下图所示:
2.点击"CATALOG"下的Models,Add一个模型,也可输入模型名进行搜索:
(1).支持模型过滤:
托管方(Hosted by):支持GitHub、ONNX、OpenAI、Anthropic、Google、Ollama、Nvidia作为模型托管源。
发布者(Publisher):AI模型发布者,支持Microsoft、Meta、Google、OpenAI、Anthropic、Mistral AI等。
模型类型(Model type):既支持在本地CPU、GPU、NPU运行模型,也支持远程云端访问模型。
(2).模型需要发布者或托管方服务许可证和帐户登录。如下载托管方为GitHub的,下载模型时会要求你账号的授权。
(3).单击模型目录中的每个模型卡(model card),可显示该模型的更多详细信息,如单击DeepSeek-R1,会打开DeepSeek-R1-README.md。
(4).在每个模型卡上,有三个选项:
Try in Playgroud:与所选AI模型进行交互
Try in Prompt Builder: 提示词,点击Run以生成响应
Try in Bulk Run: 批量运行提示词,执行批处理任务
3.Add成功后的模型会显示在左侧的"MY MODELS"下,选中模型,如DeepSeek-R1,点击右键,Load in Playgroud。如输入:如何成为AI工程师,回复结果如下图所示: