- 博客(3)
- 资源 (1)
- 收藏
- 关注
RSS订阅原创 在本地部署一套几乎免费的大模型环境3：让本地IDE（vscode）连上本地大模型环境
本文介绍了在VS Code中集成本地大模型环境Continue插件的配置过程，以实现A股量化开发场景下的智能代码辅助功能。主要内容包括： 需求分析：在IDE中实现对话式编码建议和代码补全功能 环境架构：利用现有Mac Mini和Windows开发机的分布式环境 配置步骤： 跨机网络连通性验证 LiteLLM接口测试 Continue插件安装与config.yaml配置 功能验证：展示代码补全和对话式开发的实际效果 使用模式说明：区分Chat/Plan/Agent三种交互方式的应用场景 该方案通过轻量级配置实
2026-08-12 18:02:50
429
原创 在本地部署一套几乎免费的大模型环境1：基础环境搭建
本文探讨了本地部署大模型的必要性、成本考量及实现方案。核心要点如下： 本地部署的三大驱动力： 数据安全：避免敏感数据外流 定制化需求：可针对特定领域深度优化 学习研究：深入了解技术栈 隐性成本分析： 硬件投入（显存、内存等） 电力与维护成本 机会成本（算力资源分配） 实践方案： 推荐架构：Ollama（模型）+ LiteLLM（网关）+ Open WebUI（前端） 硬件配置示例：RTX 4070 + 32GB内存 模型选择：Qwen系列不同参数版本满足多样化需求 部署流程： Windows环境详细搭建步骤
2026-07-20 00:01:15
864
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人