workspace有什么
云端IDE,内置不同热门服务,分了AI模板、前端开发、后端语言、应用模板等4个维度,每个模板有不同性能配置的工作空间,比如
1. 一套搭建知识库的AI服务,ollama + Anythingllm + open webUI + ds model
2. 内置dp learning 的framework,pytorch, Tensorflow
3. 部署好的应用服务,dify, chatbot UI, MarsTTs ……
对比其它弹性或者轻量云服务,这些应用开箱即用,不用自己配置,端口访问规则也是配置好的,对于环境配置手残党和不想浪费时间搞环境的很友好
环境
创建使用和管理工作空间
登录腾讯云,根据模板特性选择一个创建自己的工作空间,官方现在发放免费时长(根据性能不同, 一般在1000mins~5000mins),我用的是AI模板,内置服务和模型如下,
Ollama 服务:支持通过 API 调用 DeepSeek 模型。
AnythingLLM 前端服务:提供交互式聊天界面,支持知识库上传并基于知识库进行问答。
Open WebUI 前端服务:提供交互式聊天界面,支持上传文件作为上下文进行问答。
预装模型:
DeepSeek-R1-Distill-Qwen-1.5B:适合轻量级任务,如简单文本生成、基础问答和低资源设备上的应用。
DeepSeek-R1-Distill-Qwen-7B:适合中等复杂度任务,如文本摘要、翻译、对话生成和内容创作。
DeepSeek-R1-Distill-Llama-8B:与7B类似,性能略有提升,适合更复杂的文本生成和理解任务。
DeepSeek-R1-Distill-Qwen-14B:适合高复杂度任务,如长文本生成、深度问答、知识推理和高级对话系统。
DeepSeek-R1-Distill-Qwen-32B:适合高精度任务,如复杂推理、大规模知识库问答、专业领域内容生成和研究级应用。
使用方式
一般调用llm进行交互有2种方式,一个是直接和原生模型对话,用ollama管理本地模型或者API+URL请求和响应;一个是使用界面工具,本文说的是Anythingllm 和open webUI,这两个工具都具备知识库管理功能。
值得一提的是,果然腾讯自家支持自家,用微信扫一扫还能在移动端在线使用,具体操作见工作空间的README。
Open WebUI
port:8080
Anything LLM
port:4001