🏡博客主页: virobotics(仪酷智能):LabVIEW深度学习、人工智能博主
🎄所属专栏:『LabVIEW深度学习实战』
📑推荐文章:『LabVIEW人工智能深度学习指南』
🍻本文由virobotics(仪酷智能)原创🥳欢迎大家关注✌点赞👍收藏⭐留言📝订阅专栏
文章目录
大家好,这里是仪酷智能 VIRobotics。
国内的大模型 DeepSeek 自发布后就受到了广泛关注。仪酷智能近期发布的 AI Vision Toolkit for OpenVINO for LabVIEW (AIVT-OV)2.0版本能够无缝支持DeepSeek系列蒸馏推理模型,帮助用户以极低的成本在本地进行大规模模型推理,保障敏感数据的安全,避免网络中断的风险。
在本文中,笔者将通过三个简单的步骤,为大家介绍如何快速完成DeepSeek R1在LabVIEW中的本地部署。
🖥️一、环境搭建
1.1 部署所需环境
- 操作系统:>= Windows 10(64位)
- LabVIEW:>= 2018 (64-Bit)
- AIVT-OV:>=
virobotics_lib_ai_vision_toolkit_for_openvino-1.0.0.66.vip
1.2 下载并安装 AI Vision Toolkit for OpenVINO for LabVIEW
为了在LabVIEW中使用DeepSeek R1,我们需要下载并安装 AI Vision Toolkit for OpenVINO for LabVIEW。该工具包可以帮助我们将OpenVINO加速框架与LabVIEW集成,使我们能够高效地运行AI推理任务。
安装步骤:
- 下载
访问仪酷智能官方网站:https://www.virobotics.net/download,在下载中心点击软件下载。
也可在评论区留言邮箱,笔者将会将安装包发送到邮箱!
- 安装
运行下载的安装包,按照提示完成安装,更多安装问题可以参考安装指南。
当然啦,也可以评论区留言交流。
⬇️二、下载 DeepSeek 模型
在LabVIEW中使用DeepSeek R1模型之前,我们需要下载并准备好该模型。目前主要有 1.5B 和 7B 的模型,更大的模型将在后续文章中详细介绍。
-
获取模型文件:
- 关注微信公众号:仪酷智能科技,回复关键字:
deepseek
获取相关模型。 - 目前一共四种类型模型,推荐下载:
DeepSeek-R1-Distill-Qwen-1.5B-int4-ov.zip
- 关注微信公众号:仪酷智能科技,回复关键字:
-
解压与准备:
- 将模型文件解压至本地纯英文路径下,并记录下文件路径,方便后续加载和使用。
⚒️三、本地部署并开始对话
3.1 打开范例
-
打开 LabVIEW,依次选择 Help >> Find Examples >> Directory Structure >> VIRobotics >> GenAI >> LLM 查看范例。
-
双击运行
LLM_Stream.vi
,在LabVIEW中搭建一个简单的用户界面,实现与DeepSeek R1模型的交互。
通过图形化界面,用户可以上传文本内容,点击“Send”,模型将基于输入进行推理,并输出结果。
程序框图:
前面板用户交互界面:
3.2 部署运行
-
选择模型所在文件夹;
-
运行 VI;
-
在 Prompt 输入提问内容,即可获取具体答复。
演示效果详见:LabVIEW本地部署 DeepSeek R1
视频讲解教程可以查看:LabVIEW中一键本地部署DeepSeek R1,超简单
🎯总结
通过这三步,你可以成功将 DeepSeek R1 模型在LabVIEW中进行本地部署。后续我们将为大家介绍更大模型的部署。 如果您有任何问题或建议,欢迎随时联系我们,我们会继续努力。
以上就是今天要给大家分享的内容,希望对大家有用。如有笔误,还请各位及时指正。后续我们将为大家更新更多关于AI模型在LabVIEW的部署案例,欢迎大家关注博主。我是virobotics(仪酷智能),我们下篇文章见~
如您想要探讨更多关于LabVIEW与人工智能技术,欢迎加入我们的技术交流群:705637299。进群请备注:仪酷智能
更多内容可查看:
- 仪酷智能官网:https://www.virobotics.net/
- 微信公众号:仪酷智能科技
- B站:仪酷智能
- 邮箱:info@virobotics.net
如果文章对你有帮助,欢迎✌关注、👍点赞、✌收藏、👍订阅专栏
推荐阅读
AI Vision Toolkit for LabVIEW重磅升级:2.0版本支持本地部署DeepSeek R1
【YOLOv5】LabVIEW+TensorRT的yolov5部署实战(含源码))
【YOLOv5】手把手教你使用LabVIEW ONNX Runtime部署 TensorRT加速,实现YOLOv5实时物体识别(含源码)
【YOLOv8】实战一:手把手教你使用YOLOv8实现实时目标检测
【YOLOv8】实战二:YOLOv8 OpenVINO2022版 windows部署实战
【YOLOv8】实战三:基于LabVIEW TensorRT部署YOLOv8
【YOLOv9】实战一:在 Windows 上使用LabVIEW OpenVINO工具包部署YOLOv9实现实时目标检测(含源码)
【YOLOv9】实战二:手把手教你使用TensorRT实现YOLOv9实时目标检测(含源码)
【YOLOv11】实战一:在LabVIEW 中使用OpenVINO实现YOLOv11
👇技术交流 · 一起学习 · 咨询分享,请联系👇