【DeepSeek大模型腾讯云部署实战指南】:从零到上线的7大关键步骤与避坑清单

中文大模型能力地图:DeepSeek、通义、混元、文心、豆包实战选型指南 大语言模型不是参数堆砌的黑箱,而是基于训练数据密度、推理优化路径和指令理解颗粒度形成的场景化智能体。理解其底层原理,才能摆脱‘谁更强’的误区,转向‘谁更适配’的工程实践。DeepSeek在代码与逻辑推演中展现高结构化+高语义优势,通义凭借政务语料密度成为体制内文书首选,混元依托方言词典与地域感知实现文化适配突破,文心擅长教育认知路径设计,豆包则以社交语料驱动情绪化内容生成。本文聚焦真实API调用表现、响应稳定性与长程记忆衰减等隐形指标,为金融、政务、制造、教育等垂直领域提供可落地的混合调用策略。 阅读详情
更多请点击: https://codechina.net

第一章:DeepSeek大模型腾讯云部署实战指南概述

DeepSeek系列大模型(如DeepSeek-V2、DeepSeek-Coder)凭借其开源特性、高性能推理能力与中文场景优化,在企业级AI应用中备受关注。本章聚焦于在腾讯云Tencent Cloud平台完成DeepSeek大模型的端到端部署,涵盖计算资源选型、镜像构建、服务容器化封装及API网关接入等核心环节,适用于AI工程师、MLOps运维人员及云原生开发者。

适用场景与前提条件

  • 已开通腾讯云账号并完成实名认证
  • 具备CVM实例权限(推荐GPU机型:GN10X.2XLARGE40,搭载NVIDIA A100 40GB)
  • 本地环境安装TencentCloud CLI(tccli)及Docker 24.0+
  • 已获取DeepSeek官方Hugging Face仓库访问权限(如deepseek-ai/deepseek-coder-33b-instruct)

关键部署组件对照表

组件腾讯云服务用途说明
模型加载与推理Tencent Cloud TKE(容器服务)+ vLLM基于vLLM实现高吞吐、低延迟的PagedAttention推理
API服务暴露API Gateway + CLB(负载均衡)统一路由、鉴权、限流与HTTPS终结
模型存储COS(对象存储)+ 挂载至CVM加速模型权重分发,支持多节点共享读取

快速验证推理服务的启动命令

# 在CVM中拉取并运行vLLM容器(以DeepSeek-Coder-6.7B为例)
docker run --gpus all -p 8000:8000 \
  --shm-size=1g --ulimit memlock=-1 \
  -v /cos-models/deepseek-coder-6.7b:/models \
  -e MODEL_ID="/models" \
  -e TRUST_REMOTE_CODE=true \
  ghcr.io/vllm-project/vllm:v0.5.3 \
  --model /models \
  --tensor-parallel-size 2 \
  --dtype bfloat16 \
  --enable-prefix-caching
该命令启用双卡张量并行,启用前缀缓存以提升连续对话性能,并通过 --shm-size规避CUDA IPC共享内存不足问题。服务启动后可通过 curl http://localhost:8000/v1/models验证接口连通性。

第二章:环境准备与基础设施搭建

2.1 腾讯云CVM实例选型策略:GPU型号、显存与vCPU配比实践

典型AI训练场景配比原则
GPU密集型任务需避免vCPU成为瓶颈,推荐vCPU:GPU=8:1至12:1;显存带宽敏感型(如大模型推理)应优先选择A10/A100等高带宽卡。
主流GPU实例规格对比
实例类型GPU型号显存(GB)vCPU:GPU
GN10XTesla T4168:1
GN7A102412:1
GN10A1008016:1
资源配置校验脚本
# 检查GPU绑定vCPU亲和性
lscpu | grep "CPU(s):"  # 获取总vCPU数
nvidia-smi -L           # 列出GPU设备
taskset -c 0-7 python3 train.py  # 绑定前8核保障NUMA局部性
该脚本确保训练进程运行在与GPU同NUMA节点的vCPU上,减少PCIe跨节点通信延迟;参数0-7对应首颗CPU插槽的8个逻辑核,适用于GN10X(8vCPU+T4)实例。

2.2 安全组与VPC网络配置:低延迟通信与模型服务隔离设计

安全组最小权限实践
为保障模型推理服务(如TensorRT-LLM后端)与前端API网关间毫秒级通信,需禁止默认全通规则:
{
  "SecurityGroupIngress": [
    {
      "IpProtocol": "tcp",
      "FromPort": 8000,
      "ToPort": 8000,
      "SourceSecurityGroupId": "sg-frontend", // 仅允许API网关SG
      "Description": "Model inference port (low-latency)"
    }
  ]
}
该策略显式限定源安全组ID,避免CIDR宽泛授权,降低横向移动风险;端口锁定至8000确保gRPC/HTTP2专用通道。
VPC内网拓扑隔离
子网类型路由表网络ACL
model-serving-subnetrtb-inferenceallow 8000/8001, deny all else
data-prep-subnetrtb-etlblock 8000–8999

2.3 CUDA/cuDNN与NVIDIA驱动版本对齐:DeepSeek-R1推理兼容性验证

版本依赖矩阵
DeepSeek-R1 版本CUDAcuDNN最低驱动
v1.0.012.18.9.2535.54.03
v1.1.012.49.1.0550.54.15
验证脚本示例
# 检查运行时兼容性
nvidia-smi --query-gpu=driver_version --format=csv,noheader,nounits
python -c "import torch; print(torch.version.cuda, torch.backends.cudnn.version())"
该脚本依次输出驱动版本号、PyTorch绑定的CUDA与cuDNN版本,用于交叉比对是否满足DeepSeek-R1官方要求。若驱动过旧,将触发`CUDA_ERROR_INVALID_VALUE`;若cuDNN版本不匹配,则在`torch.nn.functional.scaled_dot_product_attention`调用中静默降级至非FlashAttention路径,显著降低吞吐。
关键检查项
  • 驱动版本 ≥ 对应CUDA Toolkit要求的最小驱动版本
  • cuDNN ABI版本(如libcudnn.so.9)与PyTorch编译时链接版本一致

2.4 Docker与NVIDIA Container Toolkit标准化安装:容器化部署前置条件闭环

核心依赖关系验证
安装前需确认宿主机已满足三级依赖链:
  1. NVIDIA 驱动(≥525.60.13,支持CUDA 12.0+)
  2. Docker Engine(≥24.0.0,启用systemd cgroup驱动)
  3. NVIDIA Container Toolkit(v1.15.0+,与Docker版本严格兼容)
标准化安装命令流
# 启用NVIDIA包仓库并安装工具链
curl -sL https://nvidia.github.io/nvidia-docker/gpgkey | sudo apt-key add -
curl -sL https://nvidia.github.io/nvidia-docker/ubuntu22.04/nvidia-docker.list | sudo tee /etc/apt/sources.list.d/nvidia-docker.list
sudo apt-get update && sudo apt-get install -y nvidia-docker2
sudo systemctl restart docker
该流程自动配置 /etc/docker/daemon.json中的 runtimes.nvidia条目,并验证 nvidia-container-cli --version输出。
运行时能力校验表
检测项预期输出失败含义
nvidia-smiGPU列表与驱动版本内核模块未加载
docker run --rm --gpus all nvidia/cuda:12.2.0-base-ubuntu22.04 nvidia-smi容器内可见GPU设备runtime未注入或权限拒绝

2.5 镜像仓库与存储方案选型:COS加速模型权重拉取与持久化挂载实践

COS对象存储集成优势
腾讯云COS提供高吞吐、低延迟的对象访问能力,特别适合GB级模型权重文件的分片下载与校验。通过预签名URL直连COS,可绕过镜像仓库中转,降低拉取延迟30%以上。
权重拉取加速实践
# 使用coscli并行下载权重分片
coscli cp -r \
  --concurrency=16 \
  --part-size=10485760 \  # 10MB分片,适配COS Multipart Upload
  cos://my-ai-bucket/llama3-8b/ /mnt/weights/
该命令启用16路并发与10MB分片策略,显著提升大文件拉取效率; --part-size需匹配COS服务端分片上限,避免400 Bad Request。
持久化挂载方案对比
方案读写性能一致性保障适用场景
COSFS(FUSE)中等(缓存依赖强)最终一致只读权重加载
CSI Driver + PVC高(内核态挂载)强一致训练中热更新权重

第三章:DeepSeek模型获取与本地化适配

3.1 Hugging Face模型镜像同步与腾讯云COS离线缓存构建

同步架构设计
采用双通道同步策略:主通道基于 Hugging Face `huggingface_hub` SDK 拉取模型清单,辅通道通过 COS SDK 并行上传至指定存储桶。
核心同步脚本
# sync_hf_to_cos.py
from huggingface_hub import list_models
from qcloud_cos import CosConfig, CosS3Client

config = CosConfig(Region='ap-beijing', SecretId='xxx', SecretKey='yyy')
client = CosS3Client(config)

for model in list_models(filter='pytorch', limit=50):
    if model.cardData.get('library_name') == 'transformers':
        client.put_object(Bucket='hf-mirror-1250000000',
                          Key=f'models/{model.modelId}/config.json',
                          Body=model.cardData.get('config', '{}').encode())
该脚本遍历 HF 官方模型库中 PyTorch 类型模型,仅同步含 transformers 元数据的模型,并将 config.json 以路径前缀 models/{modelId}/ 存入 COS,确保离线加载时路径兼容。
缓存元数据表
字段类型说明
model_idstringHF 模型唯一标识
cos_pathstringCOS 中对象完整路径
last_synctimestampUTC 同步完成时间

3.2 模型量化与格式转换:AWQ/GGUF量化实操与tokenizers兼容性修复

AWQ量化核心流程
# 使用autoawq对Llama-3-8B进行4-bit AWQ量化
from awq import AutoAWQForCausalLM
from transformers import AutoTokenizer

model = AutoAWQForCausalLM.from_pretrained("meta-llama/Meta-Llama-3-8B", quantize_config={"zero_point": True, "q_group_size": 128})
tokenizer = AutoTokenizer.from_pretrained("meta-llama/Meta-Llama-3-8B")
model.quantize(tokenizer, quant_config={"w_bit": 4, "q_group_size": 128})
w_bit=4 控制权重位宽, q_group_size=128 定义每个量化组的通道数,兼顾精度与推理吞吐;zero_point启用偏移校准,缓解非对称分布误差。
GGUF格式转换与tokenizer适配
  • 使用llama.cpp的convert-hf-to-gguf.py脚本导出模型
  • 手动替换tokenizer.json中"add_bos_token": false为true以匹配原始HF tokenizer行为
量化后tokenizers兼容性对比
组件AWQ加载时GGUF加载时
EOS token ID128009128001
BOS token ID128000128000

3.3 DeepSeek-R1模型结构解析与config.json关键参数腾讯云适配调优

核心架构特性
DeepSeek-R1采用混合专家(MoE)+ 旋转位置编码(RoPE)+ Qwen风格NormHead设计,支持动态专家路由与FP16/BF16混合精度推理。
腾讯云TKE集群关键适配参数
{
  "hidden_size": 5120,
  "num_attention_heads": 40,
  "num_hidden_layers": 64,
  "intermediate_size": 13824,
  "moe": {
    "num_experts": 16,
    "num_experts_per_tok": 2,
    "topk_method": "gumbel"
  }
}
该配置适配腾讯云GN10X实例(8×A10),其中 intermediate_size按1.6× hidden_size设定以平衡FFN吞吐与显存占用; topk_method: "gumbel"提升专家选择稳定性,降低TKE调度抖动。
推理性能调优对照表
参数默认值腾讯云推荐值效果
max_position_embeddings3276865536支持长文本分片合并
torch_dtype"bfloat16""float16"兼容V100/A10显卡驱动栈

第四章:推理服务部署与高可用架构落地

4.1 vLLM+Triton混合推理引擎部署:吞吐量压测与P99延迟基线建立

压测配置与指标采集策略
采用 Locust 搭配自定义 vLLM 客户端进行并发请求注入,采样间隔设为 100ms,持续 5 分钟以覆盖冷热缓存过渡期。
关键性能参数调优
  • --max-num-seqs=256:平衡 KV 缓存碎片与并行度
  • --block-size=16:适配 Triton 的 warp-level 张量切分粒度
P99 延迟基线对比表
模型Batch SizeMean Latency (ms)P99 Latency (ms)
Llama-3-8B32142287
Llama-3-8B64189413
动态批处理触发逻辑
# vLLM scheduler 中的 early-exit 判定
if len(waiting) > 0 and (time_since_last_batch > 10 or len(waiting) >= max_batch_size):
    run_batch(waiting[:max_batch_size])
该逻辑防止低并发下长等待,10ms 窗口兼顾延迟敏感型 API 场景; max_batch_size 由 Triton kernel 的 shared memory 容量反向约束。

4.2 API网关集成与HTTPS双向认证:腾讯云API Gateway + CLB负载均衡配置

双向认证核心流程
客户端需同时提供证书与私钥,API Gateway 通过 CLB 的 TLS 终止能力校验证书链,并将客户端证书信息透传至后端服务。
CLB监听器关键配置
  • 协议类型:HTTPS(端口443)
  • 服务器证书:部署平台证书
  • 客户端证书:上传 CA 根证书并启用“开启客户端证书校验”
证书信息透传头字段
Header 名称说明
X-Client-Cert-Subject客户端证书 Subject DN 字符串
X-Client-Cert-Issuer客户端证书签发者 DN
后端服务证书校验示例(Go)
// 从 HTTP Header 提取并解析 PEM 格式客户端证书
certPEM := r.Header.Get("X-Client-Cert-Subject")
block, _ := pem.Decode([]byte(certPEM))
if block == nil || block.Type != "CERTIFICATE" {
    http.Error(w, "Invalid client cert", http.StatusUnauthorized)
    return
}
该代码从请求头中提取原始证书内容,执行 PEM 解码与类型校验;若解码失败或非 CERTIFICATE 类型,则拒绝访问,确保双向认证链路完整性。

4.3 Prometheus+Grafana监控体系搭建:GPU利用率、KV Cache命中率、请求队列深度指标采集

核心指标定义与导出方式
模型服务需通过 OpenMetrics 格式暴露三类关键指标:
  • gpu_utilization_percent{device="cuda:0"}:基于 nvidia-smi --query-gpu=utilization.gpu --format=csv,noheader,nounits 采样
  • kv_cache_hit_rate{layer="12"}:由推理引擎在 forward() 中埋点统计
  • request_queue_depth{model="llama3-70b"}:对接 HTTP 请求中间件的并发等待计数器
Exporter 集成示例(Python)
# metrics_exporter.py
from prometheus_client import Gauge, start_http_server
import subprocess

gpu_util = Gauge('gpu_utilization_percent', 'GPU utilization percent', ['device'])
gpu_util.labels(device='cuda:0').set(float(subprocess.check_output(
    ['nvidia-smi', '--query-gpu=utilization.gpu', 
     '--format=csv,noheader,nounits']).decode().strip()))
该脚本每15秒调用一次 nvidia-smi,解析 CSV 输出并更新 Prometheus Gauge。参数 --format=csv,noheader,nounits 确保输出为纯数值(如 87),避免字符串解析异常。
Grafana 面板配置要点
指标Panel 类型聚合函数
GPU 利用率Time seriesavg by (device)
KV Cache 命中率Gaugelast_over_time(5m)
请求队列深度Statmax

4.4 自动扩缩容(CA)策略设计:基于QPS与GPU显存使用率的HPA弹性伸缩规则

双指标协同伸缩逻辑
HPA需同时响应应用层负载(QPS)与资源层瓶颈(GPU显存使用率),避免单一指标导致过扩或欠扩。当QPS > 800 且 GPU memory usage > 75% 持续2分钟,触发扩容;仅满足其一不触发。
HPA配置示例
apiVersion: autoscaling/v2
kind: HorizontalPodAutoscaler
metadata:
  name: gpu-inference-hpa
spec:
  scaleTargetRef:
    apiVersion: apps/v1
    kind: Deployment
    name: inference-server
  minReplicas: 2
  maxReplicas: 12
  metrics:
  - type: External
    external:
      metric:
        name: nginx_ingress_controller_requests_per_second
      target:
        type: AverageValue
        averageValue: 800
  - type: Resource
    resource:
      name: nvidia.com/gpu-memory
      target:
        type: Utilization
        averageUtilization: 75
该配置声明外部QPS指标与内置GPU显存利用率双阈值联动。External指标依赖Prometheus Adapter采集Ingress请求速率;nvidia.com/gpu-memory为设备插件暴露的自定义资源,averageUtilization基于容器内所有GPU显存总和计算。
扩缩决策优先级表
场景QPS状态GPU显存状态动作
A>800>75%立即扩容
B>800<60%暂不扩(显存充裕)
C<400>90%标记待缩容+告警分析泄漏

第五章:从零到上线的7大关键步骤与避坑清单总结

环境准备与依赖隔离
使用 Docker Compose 统一管理开发环境,避免“在我机器上能跑”问题。以下为生产就绪型 Nginx + Go 服务基础配置:
version: '3.8'
services:
  app:
    build: .
    environment:
      - DB_HOST=postgres
      - ENV=prod  # 关键:禁用 debug 模式
    depends_on: [postgres]
  postgres:
    image: postgres:15-alpine
    environment:
      POSTGRES_DB: myapp
      POSTGRES_PASSWORD: devpass
CI/CD 流水线校验点
  1. Go 模块 checksum 验证(go mod verify)防止依赖篡改
  2. 静态代码扫描(gosec)检测硬编码密钥与不安全函数调用
  3. 容器镜像层扫描(Trivy)识别 CVE-2023-45803 等高危漏洞
配置中心与敏感信息治理
场景推荐方案避坑提示
本地开发.env + godotenv禁止提交至 Git,.gitignore 必须包含 .env
KubernetesSecrets + Downward API 注入避免挂载 Secret 为环境变量(内存泄露风险)
健康检查与就绪探针设计

反模式示例:将数据库连接检查写入 liveness 探针 → 导致循环重启

正确实践:liveness 检查进程存活;readiness 检查 DB、Redis、下游 HTTP 服务连通性

灰度发布与流量切分
使用 Istio VirtualService 实现 5% 流量导向新版本:
http:
- route:
  - destination: {host: myapp, subset: v1}  # 95%
    weight: 95
  - destination: {host: myapp, subset: v2}  # 5%
    weight: 5
日志结构化与上下文追踪
在 Gin 中注入 trace_id,确保日志可关联 APM:
  • 使用 logrus.WithField("trace_id", ctx.Value("trace_id"))
    • 禁止 fmt.Printf 输出,统一走 structured logger
避坑指南:腾讯云DeepSeek AI应用创建与测试中的5个常见问题及解决方案 本文深度解析腾讯云DeepSeek AI应用创建与测试中的5个常见问题及解决方案,涵盖API 403错误排查、知识库更新延迟优化、WebSocket连接稳定性提升等实战经验。特别针对腾讯云平台特性,提供IAM权限配置、频率限制规避等专业建议,帮助开发者高效避坑。 阅读详情

相关推荐

国产大模型本地部署与RAG增强实战指南

大语言模型(LLM)作为人工智能基础设施的核心组件,其原理基于海量文本的自监督预训练与指令微调,具备上下文理解、知识推理与生成能力。在数据安全法、个人信息保护法及生成式AI服务管理暂行办法等法规约束下,国产大模型因其合规备案、中文优化与信创适配能力,成为政务、金融、医疗等关键行业的技术首选。通义千问(Qwen)、Kimi、GLM等已支持私有化部署、RAG知识增强与LoRA轻量微调,可有效缓解幻觉、提升领域准确率,并兼容麒麟/统信操作系统及海光/鲲鹏芯片。本文聚焦Qwen2-7B在国产信创环境下的本地化部署与

weixin_33708432的博客 362

小白也能懂的腾讯云TI平台DeepSeek部署全流程

这篇文章我们对TI平台有着简略的认识,我们用三分钟即可在TI平台搭建属于自己的模型和专属接口。对于DeepSeek的部署流程依然是简洁明了的,从登录平台、选择模型体验,到搭建 DeepSeek - R1 模型服务,以及后续的 API 调用等环节,都进行了详细阐述。也希望这个平台能在你未来的开发之路上发挥重大作用,本篇文章虽然没有对TI平台做过多的介绍,但是依然是值得你去体验的。

m0_69975218的博客 2156

腾讯云AI Skills实践:从玩具Agent到全能Agent的完整改造指南

在Agent应用开发中,仅仅依赖Prompt注入工具描述难以支撑复杂真实任务,工程化落地需要将大模型能力拆解为可独立维护、可复用、可编排的AI Skills。通过引入LLM网关统一管理模型调用,结合Redis与COS实现记忆与文件持久化,再借助容器化部署构建稳定的云上底座,Agent才能从“聊天玩具”进化为能处理数据查询、报告生成、日程提醒等实际业务的全能助手。本文以腾讯云AI Skills实践为背景,详细拆解Skill设计、注册、编排、安全与可观测性等关键环节,适合从事Agent开发与上云部署的工程师参考

weixin_33997389的博客 516

云平台放大招,DeepSeek 模型一键部署还能免费体验!

欢迎来到涛涛聊AI!家人们,今天给大家带来一份超实用的指南——在 云平台上快速部署和体验DeepSeek系列模型!不管你是初涉AI领域的小白,还是经验丰富的开发者,这篇文章都能帮你快速掌握DeepSeek模型的部署技巧,赶紧码住!

涛涛讲AI 1830

DeepSeek多平台部署指南:Ollama、Android、WebUI全链路打通

DeepSeek作为高性能开源大模型,其GGUF量化格式虽轻量高效,但跨平台部署面临环境语义鸿沟——同一模型在x86_64、ARM64与Web环境需适配不同运行时、硬件抽象与I/O机制。核心原理在于GGUF文件依赖底层推理引擎(如llama.cpp)及平台特异性支持(CUDA/NVIDIA、NEON/ARM、WebAssembly内存限制)。技术价值体现为显存可控、低延迟推理与端侧轻量化落地能力。典型应用场景包括本地IDE代码补全、安卓端离线编程助手、企业级WebUI智能交互界面。本文聚焦DeepSeek-

weixin_30175731的博客 167

解密Android相机框架:从HAL到应用层的全链路解析

本文深入解析Android相机框架的全链路架构,从应用层到硬件抽象层(HAL)再到驱动层,详细介绍了CamX-CHI架构的设计哲学与实战应用。通过HAL3接口、V4L2交互机制及Camera2 API的最佳实践,帮助开发者优化相机性能,解决多摄切换、预览卡顿等常见问题,提升成像效率与稳定性。

weixin_29238147的博客 408

手把手教你:在腾讯云部署专属 AI 助理,用 QQ 随时随地聊!

今年一月底,一款名为OpenClaw(前身是 Clawdbot/Moltbot)的开源 AI 助理突然在技术圈刷屏——从 X、Reddit 到国内技术社区,几乎同时沸腾。OpenClaw 并不是第一个"能干活"的 AI Agent,但它偏偏在 Claude Cowork 发布后短短两三周内引爆了大家的热情。原因可能不只是"代码 100% 由 AI 编写"这个噱头,更在于它颠覆性的人机协作方式🖥️运行在你自己的环境里(本地电脑、个人服务器均可)💬交互方式回归熟悉的聊天软件,就像跟同事发消息一样自然。

Assert_SL的博客 1802

别再硬啃理论了!用Simulink双脉冲实验,5分钟搞懂MOSFET二极管反向恢复

本文通过Simulink双脉冲实验仿真,帮助电力电子学习者快速理解MOSFET二极管反向恢复特性。文章详细介绍了实验搭建步骤、关键参数配置及波形解析,将抽象理论转化为可视波形,大幅提升学习效率。特别适合需要直观理解反向恢复过程的工程师和学生。

weixin_30918633的博客 957

腾讯云AI Skills实战:从零构建领域专家Agent的落地指南

大模型驱动的智能体正在改变软件交互方式,但如何让Agent真正掌握专业领域知识,始终是落地的关键。AI Skills 将提示词、工具调用、参数约束与输出规范封装为可复用的“领域能力包”,让Agent从“会聊天”升级为“能干活”。本文基于实际项目,拆解腾讯云AI Skills的完整落地链路:从环境选型、模型接入,到Skill文件设计与编排,再到安全组配置与开源Skills的二次复用。以专利检索辅助为例,展示如何将行业经验结构化,并通过多Skill协作构建可扩展的Agent能力。适合正在探索Agent工程化、希

weixin_34409357的博客 393

数字IC设计技能篇之如何在RTL级降低功耗?

以上就是本次降低芯片功耗的部分心得和收获,由于是在芯片设计阶段还没办法后端直接给出power的报告,前端一般使用spyglass和fsdb来进行功耗分析,后续会更新如何使用spyglass在前仿阶段进行power的分析,以及持续更新有关RTL级降低功耗的相关内容。

mzynk的博客 1206

CGAL AlphaShape算法(自适应Alpha值,二维版本)

CGAL AlphaShape算法(自适应Alpha值,二维版本)

dayuhaitang1的博客 2326

OpenClaw+腾讯云企业级AI助手部署实战指南

大模型API网关是企业AI落地的核心中间件,其本质是连接前端应用与云厂商托管模型服务的协议适配层。理解OpenClaw这类开源框架与腾讯云混元、DeepSeek等API之间的契约关系,是保障服务稳定性、成本可控性与安全合规性的前提。本文聚焦云原生环境下的生产级部署实践,涵盖API密钥安全轮换、Kubernetes容器化网关、双模型智能路由、COS对象存储集成及CLB+WebSocket高可用接入等关键技术环节,特别解析`api error: 400`、`context window limit`、`sock

weixin_34295316的博客 527

AUTOSAR从入门到精通-复杂设备驱动(CDD)

CDD是复杂设备驱动的首字母缩写主要为驱动程序或复杂驱动程序,但不限于驱动程序。复杂驱动程序是一种未被AUTOSAR标准化的软件实体,可以通过AUTOSAR接口和/或基本软件模块api访问。 CDD是位于基础软件复杂驱动层的特定模块,与标准BSW模块或Rte交互。 CDD可能需要与分层软件体系结构的模块连接 分层软件架构的模块可能需要连接到CDD CDD可能需要通过Rte连接swc。

getusushu的博客 4203

DeepSeek爆火官网异常?别担心!其他三种免费使用方法已备好,快来 get!

最近deepseek爆火,导致官网总是使用异常,既然是开源的模型,那一定是可以有办法的。

涛涛讲AI 2415

推荐系统中召回率Recall计算方式附代码

Recall(召回率)是指在所有实际有交互的用户 - 物品对中,推荐系统成功预测出的比例。具体来说,设所有有交互的用户 - 物品对为S,推荐系统预测出的用户 - 物品对为T,则Recall的计算公式为:

优快云 精品推荐 1843

腾讯面试——机器学习岗面试总结

先写合并两个有序数组,接着写合并n个有序的数组,假设总共m个数,讲了一个思路两两合并直到只剩下一个数组,分析一下时间复杂度(MlogN),面试官不满意,然后想了一下说了另一个思路,用n个指针开始指向各个数组的首端,用一个优先队列维护他们的最小值,每次拿出最小值的指针然后插入该指针的下一个值。感觉跟二面面试官聊得还是挺开心的,他详细地介绍了他们部门所做的业务,然后问了一下什么时候能来实现,我说只能暑假七八两个月,他觉得有点晚,这样子不利于转正,有些人都实习半年的,回去讨论一下,正式批之前给我答复。

FPGA/MATLAB学习教程/源码/项目合作开发 1234

无需天价硬件!中小公司/个人也能轻松玩转DeepSeek大模型!

DeepSeek大模型的本地部署并非遥不可及,只要根据自身需求,合理选择硬件,中小公司和个人也能在大模型的世界里大展拳脚。从单卡4090运行千亿参数模型,到中小企业级服务器的低成本方案,大模型部署的门槛正在迅速降低。把握硬件选型的关键参数,结合量化、蒸馏等优化技术,你我都能成为AI时代的弄潮儿!拓展阅读• [24GB显存玩转DeepSeek-R1]• [DeepSeek-R1企业级部署实战:从采购到调优]• [创牛科技:大模型硬件选型白皮书]

kevenshijian的专栏 1554

自动化Ai Agent全流程实现【设计+代码】

本文探讨了人工智能代理(AI代理)如何通过自动化复杂的业务流程来帮助企业提高效率和降低成本。AI代理具有适应性、智力、自主性和可扩展性等特点,能够处理非结构化信息、在定义参数范围内做出判断、协调多个系统或利益相关者,以及处理变量输入和异常。文章详细介绍了AI代理在文件处理、客户服务、人才招聘和财务运作等领域的应用,并提供了一个逐步实现发票处理自动化的案例。此外,文章还强调了实施AI代理自动化的优势,包括效率提升、成本降低、准确性和可扩展性的改进,并提出了实施最佳实践,如从高影响力流程开始、设计人机交互、优先

FeelTouch Labs 900

企业私有化部署GEO源码技术清单:12个核心模块+部署避坑

最近接到不少技术负责人私信问"私有化部署GEO源码到底要准备哪些模块、容易踩哪些坑",今天就把云毅网络(微三云)13年沉淀的部署经验整理出来,给准备自部署的技术团队一份可落地的参考。

m0_73171109的博客 235

android 蓝牙通讯demo

android 下蓝牙通讯demo,实现了发现蓝牙,使能蓝牙,通过蓝牙发送消息。

TMS_WebGMaps_1.9.8.0_Full_Source

TMS_WebGMaps_1.9.8.0_Full_Source 全源码 delphi cbuilder

腾讯云AI Skills实战:从零构建能调用工具的全能Agent

在大模型应用开发中,Agent与Skill是两个容易被混淆的核心概念。Agent是负责理解意图、规划步骤并调度资源的执行主体,而Skill则是被Agent调用的原子化能力模块,二者关系类似“员工”与“岗位技能”。将复杂的业务逻辑拆解为独立、可复用的Skill,不仅能降低系统耦合度,还能提升工具调用的准确率和安全性,是生产级Agent架构的关键设计思路。这种模式广泛应用于服务器状态巡检、自动化报表生成、多工具协同办公等真实场景。在腾讯云上,通过AI Skills配合CVM、Redis、Docker容器及Dee

weixin_34294649的博客 314

温度PID控制PLC程序

温度PID稳定控制程序,适用于欧姆龙PLC,对其他PLC也具有很大参考价值

DeepSeek Harness dsh-market 部署实战:腾讯云+Node.js 18.20.4 全流程指南

智能体编排平台是当前AI工程化落地的核心基础设施,其本质是基于可插拔架构的AI能力调度中枢,依赖严格的运行时环境与服务化部署。DeepSeek Harness作为典型代表,需围绕Node.js版本兼容性、系统级依赖(如ffmpeg/libjpeg)、安全组网络策略及插件市场动态加载机制进行深度适配。技术价值体现在多智能体协同、本地模型对接(如Ollama)与热插拔式插件管理,广泛应用于AI Agent PoC验证、企业级AI中台搭建及算法工程化交付场景。本文聚焦腾讯云轻量服务器环境,详解从源码构建、服务化部

weixin_42552637的博客 288

Data-Structures-and-Algorithm-Analysis-in-Java.pdf

作者: Weiss, Mark A. 出版社: Addison Wesley Data Structures and Algorithm Analysis in Java is an “advanced algorithms” book that fits between traditional CS2 and Algorithms Analysis courses. In the old ACM Curriculum Guidelines, this course was known as CS7. This text is for readers who want to learn good programming and algorithm analysis skills simultaneously so that they can develop such programs with the maximum amo...

避坑指南:DeepSeek-R1本地部署常见问题全解

本文介绍了如何在星图GPU平台上自动化部署🧠 DeepSeek-R1 (1.5B) - 本地逻辑推理引擎镜像,实现低延迟、高准确率的本地逻辑推理任务。用户可快速启用数学证明、代码生成与逻辑陷阱题求解等典型应用场景,全程数据不出域,兼顾隐私性与实用性。

weixin_35294091的博客 334

DeepSeek-R1与V3技术解析:国产大模型工程化落地实践

大语言模型(LLM)作为人工智能基础设施的核心组件,其真正价值取决于能否稳定、低成本、低门槛地投入实际应用。从原理上看,模型推理效率受KV Cache管理、注意力机制设计、量化部署策略等底层工程深度影响;技术价值体现在将高参数模型压缩为可运行于昇腾910B等国产算力平台的轻量服务,显著降低企业AI使用门槛;典型应用场景覆盖金融风控规则生成、长文本摘要、代码辅助及合规内容审核等需逻辑严谨性或泛化平衡的任务。DeepSeek-R1与V3正是这一演进路径的关键代表——前者聚焦符号化推理与确定性解码,后者依托动态专

dfdfadsf3443的博客 484

腾讯云部署DeepSeek Harness与dsh-market插件市场实战指南

在多智能体协同与自动化工作流日益普及的今天,如何高效管理智能体框架的插件扩展成为工程落地的关键。DeepSeek Harness作为一款支持多智能体编排与可插拔扩展的框架,其插件管理机制直接影响开发效率与团队协作。dsh-market插件市场应运而生,为Harness提供了类似包管理器的集中化插件分发与版本控制能力,使插件安装、升级、回滚变得标准化。本文从智能体编排的基础概念出发,讲解插件市场的核心原理与技术价值,并结合腾讯云服务器环境,系统介绍从服务器初始化、Python环境配置、Harness安装到ds

weixin_31960565的博客 336

腾讯云上部署带技能体系的Agent:从零到可用的完整实践复盘

智能体(Agent)是当下AI应用从对话走向自动执行的关键形态,而决定其能否稳定“干活”的核心,在于是否具备结构化的技能体系(Skills)。文章从Agent与Prompt、插件、工作流的边界讲起,阐释技能体系如何通过触发条件、接口调用与异常处理为Agent提供确定性执行能力。在此基础上,以腾讯云为部署环境,系统梳理了服务器选型、容器镜像服务推送、二级域名与HTTPS配置、Redis密码管理等基础实施细节,并结合模型网关统一接入多模型。全文覆盖从技能设计、参数抽取到服务编排、线上排错的全链路实践,为开发者和

weixin_33834628的博客 378

腾讯云上搭建可扩展Agent:Skill设计与部署避坑指南

智能体(Agent)开发中,如何将AI能力沉淀为标准化技能(Skill)是决定系统可扩展性的关键。通过将决策逻辑与具体执行分离,借助Harness调度循环,Agent可灵活调用各类工具。容器化和云原生技术为Agent长期稳定运行提供保障。Docker镜像推送、反向代理与Redis配置等环节,是云上部署的常见难点。本文以腾讯云为例,梳理从环境选型、技能注册到容器部署的完整实践,并针对Redis密码修改失败等高频问题给出排查思路,帮助开发者快速构建生产级Agent服务。

weixin_33861800的博客 297
上一篇: 【紧急预警】Gemini IR合规红线已升级!2024Q3起未接入ESG披露模块的IR流程将触发监管回溯审查
下一篇: 揭秘2024最逼真AI语音合成技术:从WaveNet到VALL-E X,实测5大模型情感表达力差异
LiteCode
博客等级 码龄1年 146粉丝 2019原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符  | 博主筛选后可见
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值