三步搞定DeepSeek R1在LabVIEW中的本地部署(免费开源含源码)

‍‍🏡博客主页: virobotics(仪酷智能):LabVIEW深度学习、人工智能博主
🎄所属专栏:『LabVIEW深度学习实战』
📑推荐文章:『LabVIEW人工智能深度学习指南』
🍻本文由virobotics(仪酷智能)原创

🥳欢迎大家关注✌点赞👍收藏⭐留言📝订阅专栏


大家好,这里是仪酷智能 VIRobotics

国内的大模型 DeepSeek 自发布后就受到了广泛关注。仪酷智能近期发布的 AI Vision Toolkit for OpenVINO for LabVIEW (AIVT-OV)2.0版本能够无缝支持DeepSeek系列蒸馏推理模型,帮助用户以极低的成本在本地进行大规模模型推理,保障敏感数据的安全,避免网络中断的风险。

在本文中,笔者将通过三个简单的步骤,为大家介绍如何快速完成DeepSeek R1在LabVIEW中的本地部署。

在这里插入图片描述


🖥️一、环境搭建

1.1 部署所需环境

  • 操作系统:>= Windows 10(64位)
  • LabVIEW:>= 2018 (64-Bit)
  • AIVT-OV:>= virobotics_lib_ai_vision_toolkit_for_openvino-1.0.0.66.vip

1.2 下载并安装 AI Vision Toolkit for OpenVINO for LabVIEW

为了在LabVIEW中使用DeepSeek R1,我们需要下载并安装 AI Vision Toolkit for OpenVINO for LabVIEW。该工具包可以帮助我们将OpenVINO加速框架与LabVIEW集成,使我们能够高效地运行AI推理任务。

安装步骤:

  1. 下载
    访问仪酷智能官方网站:https://www.virobotics.net/download,在下载中心点击软件下载。
    在这里插入图片描述

也可在评论区留言邮箱,笔者将会将安装包发送到邮箱!

  1. 安装
    运行下载的安装包,按照提示完成安装,更多安装问题可以参考安装指南
    当然啦,也可以评论区留言交流。

⬇️二、下载 DeepSeek 模型

在LabVIEW中使用DeepSeek R1模型之前,我们需要下载并准备好该模型。目前主要有 1.5B7B 的模型,更大的模型将在后续文章中详细介绍。

  1. 获取模型文件:

    • 关注微信公众号:仪酷智能科技,回复关键字:deepseek 获取相关模型。
    • 目前一共四种类型模型,推荐下载:DeepSeek-R1-Distill-Qwen-1.5B-int4-ov.zip
      在这里插入图片描述
  2. 解压与准备:

    • 将模型文件解压至本地纯英文路径下,并记录下文件路径,方便后续加载和使用。

⚒️三、本地部署并开始对话

3.1 打开范例

  1. 打开 LabVIEW,依次选择 Help >> Find Examples >> Directory Structure >> VIRobotics >> GenAI >> LLM 查看范例。
    在这里插入图片描述

  2. 双击运行 LLM_Stream.vi,在LabVIEW中搭建一个简单的用户界面,实现与DeepSeek R1模型的交互。
    通过图形化界面,用户可以上传文本内容,点击“Send”,模型将基于输入进行推理,并输出结果。

程序框图:

在这里插入图片描述

前面板用户交互界面:

*(这里可以插入前面板界面图片)*

3.2 部署运行

  1. 选择模型所在文件夹;
    在这里插入图片描述

  2. 运行 VI;

  3. Prompt 输入提问内容,即可获取具体答复。
    演示效果详见:LabVIEW本地部署 DeepSeek R1
    视频讲解教程可以查看:LabVIEW中一键本地部署DeepSeek R1,超简单


🎯总结

通过这三步,你可以成功将 DeepSeek R1 模型在LabVIEW中进行本地部署。后续我们将为大家介绍更大模型的部署。 如果您有任何问题或建议,欢迎随时联系我们,我们会继续努力。

以上就是今天要给大家分享的内容,希望对大家有用。如有笔误,还请各位及时指正。后续我们将为大家更新更多关于AI模型在LabVIEW的部署案例,欢迎大家关注博主。我是virobotics(仪酷智能),我们下篇文章见~

如您想要探讨更多关于LabVIEW与人工智能技术,欢迎加入我们的技术交流群:705637299。进群请备注:仪酷智能

更多内容可查看

如果文章对你有帮助,欢迎✌关注、👍点赞、✌收藏、👍订阅专栏

推荐阅读

AI Vision Toolkit for LabVIEW重磅升级:2.0版本支持本地部署DeepSeek R1

【YOLOv5】LabVIEW+TensorRT的yolov5部署实战(含源码))
【YOLOv5】手把手教你使用LabVIEW ONNX Runtime部署 TensorRT加速,实现YOLOv5实时物体识别(含源码)
【YOLOv8】实战一:手把手教你使用YOLOv8实现实时目标检测
【YOLOv8】实战二:YOLOv8 OpenVINO2022版 windows部署实战
【YOLOv8】实战三:基于LabVIEW TensorRT部署YOLOv8
【YOLOv9】实战一:在 Windows 上使用LabVIEW OpenVINO工具包部署YOLOv9实现实时目标检测(含源码)
【YOLOv9】实战二:手把手教你使用TensorRT实现YOLOv9实时目标检测(含源码)
【YOLOv11】实战一:在LabVIEW 中使用OpenVINO实现YOLOv11

👇技术交流 · 一起学习 · 咨询分享,请联系👇

### LabVIEW 接入 DeepSeek 大模型时的错误排查与解决方案 在将 DeepSeek 集成到 LabVIEW 的过程中,可能会遇到多种类型的错误。以下是针对常见问题及其可能原因和解决方法的具体分析。 #### 1. CUDA 版本不匹配 如果使用的 CUDA 版本与 TensorFlow 或 PyTorch 所需版本不符,则可能导致运行失败或性能下降。例如,在安装 `cuda_10.0.130_411.31_win10.exe` 时仅应勾选 CUDA 安装选项[^4],而忽略其他驱动更新以免引发冲突。 - **解决办法**: 确认当前环境中所依赖的深度学习框架所需的 CUDA 版本号,并下载对应版本的安装包重新配置环境变量路径以指向正确的库位置。 #### 2. PB 文件加载异常 PB (Protocol Buffers) 是一种序列化数据格式常用于保存训练好的神经网络模型参数以便于跨平台移植使用。当尝试通过 LabVIEW 加载此类文件执行预测操作却报错可能是由于生成该文件过程存在问题或者其结构不符合预期标准所致[^3]。 - **建议措施**: 检查原始导出流程是否遵循官方指南完成每一步骤;另外可以借助第三方工具验证 pb 文件合法性后再导入至目标系统测试效果如何变化。 #### 3. LLM 局部推理设置不当 对于像 DeepSeek 这样的大规模预训练语言模型来说, 实现高效的局部推理需要合理调整多项超参以及优化策略来平衡精度同效率之间的关系.[^2] - **应对方式**: 参考相关文档仔细核对各项配置项数值设定得当与否; 同时考虑引入量化技术进一步压缩模型尺寸从而加快计算速度减少资源消耗. #### 4. 软件兼容性考量 最后还需注意不同软件组件之间是否存在潜在互斥情况影响整体功能实现比如特定插件版本过旧无法满足新特性需求等问题也可能成为阻碍因素之一. - **处理手段**: 更新所有涉及的相关模块直至最新稳定发行版为止并再次进行全面联调确认无误之后方可投入使用生产环节当中去. ```python import tensorflow as tf # Load the model from .pb file. def load_model(pb_file_path): with open(pb_file_path, 'rb') as f: graph_def = tf.compat.v1.GraphDef() graph_def.ParseFromString(f.read()) with tf.Graph().as_default() as graph: tf.import_graph_def(graph_def, name='') return graph model_pb_path = './path/to/your/model.pb' graph = load_model(model_pb_path) with tf.Session(graph=graph) as sess: input_tensor_name = list(graph.get_operations())[0].name + ':0' output_tensor_names = [t.name for t in graph.as_graph_def().node if '_output' in t.name] print('Input Tensor Name:',input_tensor_name) print('Output Tensors Names:',output_tensor_names) ```
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

virobotics

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值