总体架构
首先由毫米波设备发送天线发射无线信号,信号被用户手部动作调制后反射,反射信号被毫米波接收天线捕获。接着,毫米波设备将捕获信号进行处理,获得信号强度、距离、多普勒频移等信息,并将这些信息输入神经网络进行学习,通过学习后的分类器对用户新动作进行分类预测。这一过程的进一步描述如下:
1)毫米波设备我们使用过高通平台和TI毫米波雷达,总体效果差异不大。下面我们以TI毫米波雷达为例进阐述。设备型号为TI-IWR1443,该设备可以将原始FMCW信号进行预处理后,得到一个帧序列信号,每一帧含有11个与角度、距离、RangeDoppler有关的特征值。
2)利用神经网络对这些帧序列进行学习和分类的过程在python中实现,当前采用的神经网络为resnet。在神经网络进行学习的过程中,我们把学习准确率最高的网络模型保存为.pkl的格式。
3)对新手势的预测,我们采用调用python脚本的方式导入训练好的网络模型。该脚本由Matlab进行调用,并返还给Matlab一个预测分类结果值。
4)控制相机的部分我们在Matlab中完成。采用的方式是调用Webcam模块控制相机。每当一个新手势完成分类预测之后,Matlab就会