- 博客(9)
- 资源 (158)
- 收藏
- 关注
RSS订阅原创 从零开始：使用SGlang私有化部署满血版DeepSeek-R1实战指南
是一款拥有671B参数规模的推理大模型，其在数学、编程和推理等复杂任务上的表现，已经与当前主流商业大模型不相上下。本文详细介绍如何使用SGlang作为分布式推理方案，并基于Alaya NeW算力云的弹性容器集群，展示DeepSeek-R1私有化部署的最佳实践。通过这种组合，我们旨在提供一个灵活、可扩展且高性能的解决方案，以支持深度学习模型的高效部署与运行。这一方法不仅提升了模型推理的效率，还确保了在私有化环境下的稳定性和安全性。
2025-02-25 15:52:11
2185
原创 基于DeepSeek构建个人级与企业级大模型本地知识库
大模型最典型最成熟的应用非知识库莫属了，构建本地大模型知识库的主流技术组件组合通常围绕检索增强生成（RAG）框架展开，涵盖前端交互、向量存储、嵌入模型、推理大模型等核心模块。本文介绍基于大模型构建本地知识库的技术原理，特别是RAG原理，并演示操作个人用的基于轻量版Cherry studio及企业级Dify的知识库构建方案，通过本文档的学习，您可以建设自己个人的或企业级的知识库。
2025-02-25 13:54:34
1007
原创 DeepSeek-R1比肩OpenAI o1，再一次惊艳世人
当我们还沉浸在大模型的价格杀手、开源之光DeepSeek-V3的惊喜中，DeepSeek于2025年1月20日又再一次让我们吃了一惊，发布了DeepSeek-R1，性能直接对标OpenAI o1，是全球唯一一个可以与其较劲的大模型。此次发布的DeepSeek-R1还是将模型权重一并开源，有实力就是豪横！
2025-01-30 10:41:33
1124
原创 DeepSeek-V3——国产AI黑马如何用“东方魔法”颠覆全球AI格局？
DeepSeek V3出现的基本情况、国内外业内人士对DeepSeek-V3的看法、DeepSeek-V3背后的团队介绍、DeepSeek-V3牛在哪里、如何使用DeepSeek-V3、DeepSeek-V3有哪些不足、DeepSeek-V3对行业的影响等内容。
2025-01-30 08:37:54
1233
基于DeepSeek构建个人与企业大模型本地知识库-技术原理、方案选型及实操详解
2025-02-20
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人