
Nvidia
文章平均质量分 80
gzgenius
这个作者很懒,什么都没留下…
展开
-
是否可以在 英伟达 Jetson Orin Nano 上部署 DeepSeek 模型?
总的来说,因为Jetson Orin Nano主要应用于轻量化边缘计算使用,如适合边缘设备、嵌入式 AI 应用(如机器人、无人机、智能摄像头)。而大规模模型训练和推理(如 DeepSeek 14B 或更高参数模型)则不适合,因此需根据不同的应用场景进行选择。:大模型(如 14B 或更高参数)需要更高的显存和算力,Jetson Orin Nano 可能难以流畅运行。:本地部署适合高隐私场景,但需确保符合数据安全法规(如 GDPR)。:1.5B 模型需约 4GB 显存,7B 模型需 8GB 以上。原创 2025-03-19 11:43:32 · 584 阅读 · 0 评论 -
英伟达PTX指令集与各CUDA版本的关系
虽然PTX指令集的官方文档是英文的,但通过查阅NVIDIA的CUDA工具包文档和相关资源,可以详细了解不同CUDA版本中PTX指令集的变化和新增功能。原创 2025-03-19 10:13:47 · 626 阅读 · 0 评论