手势检测

材料

范例

在本范例中,我们将使用开发板检测手掌手势。

File -> Examples -> AmebaNN -> HandGestureDetection 中打开手势检测范例。

../../_images/image013.png

在突出显示的代码片段中,将 "ssid" 填入您的 WiFi 网络 SSID,并将 "pass" 填入网络密码。

../../_images/image023.png

使用 modelSelect() 函数选择神经网络(NN)任务和模型。该函数接受 8 个参数:神经网络任务、目标检测模型、人脸检测模型、人脸识别模型、音频分类模型、图像分类模型、手掌检测模型和手部关键点模型。如果所选神经网络任务不需要某些模型,请用 "NA_MODEL" 替换。请注意,在调用 begin() 函数之前,必须调用 modelSelect() 函数。

  • 有效的神经网络任务: OBJECT_DETECTIONFACE_DETECTIONFACE_RECOGNITIONAUDIO_CLASSIFICATIONIMAGE_CLASSIFICATIONGESTURE_DETECTION

  • 有效的目标检测模型:

    • YOLOv3-tiny 模型: DEFAULT_YOLOV3TINYCUSTOMIZED_YOLOV3TINY

    • YOLOv4-tiny 模型: DEFAULT_YOLOV4TINYCUSTOMIZED_YOLOV4TINY

    • YOLOv7-tiny 模型: DEFAULT_YOLOV7TINYCUSTOMIZED_YOLOV7TINY

  • 有效的人脸检测模型: DEFAULT_SCRFDCUSTOMIZED_SCRFD

  • 有效的人脸识别模型: DEFAULT_MOBILEFACENETCUSTOMIZED_MOBILEFACENET

  • 有效的音频分类模型: DEFAULT_YAMNETCUSTOMIZED_YAMNET

  • 有效的图像分类模型: DEFAULT_IMGCLASSCUSTOMIZED_IMGCLASS

  • 有效的手势检测模型: DEFAULT_HANDLANDMARKCUSTOMIZED_HANDLANDMARK

如果您想使用自己的神经网络模型,请选择自定义选项(例如 CUSTOMIZED_YOLOV4TINY/ CUSTOMIZED_SCRFD/ CUSTOMIZED_MOBILEFACENET)。要了解 AI 模型转换的流程,请参考 AI 模型转换工具 。此外,请参考 AI 模型部署指南 了解如何安装和使用转换后的模型。

../../_images/image033.png

编译代码并上传至 Ameba。按下重置按钮后,等待开发板连接到 WiFi 网络。开发板的 IP 地址和 RTSP 网络端口号将显示在串口监视器中。

检测到的目标结果可以使用 VLC 验证。您可以从 此处 下载 VLC 媒体播放器。

软件安装完成后,打开 VLC 媒体播放器,进入 Media -> Open Network Stream

../../_images/image043.png

请确保您的 PC 与开发板连接到同一网络以进行串流。由于使用 RTSP 作为串流协议,请在 VLC 媒体播放器中输入 rtsp://{IPaddress}:{port} 作为网络 URL,将 {IPaddress} 替换为开发板的 IP 地址,{port} 替换为串口监视器中显示的 RTSP 端口,例如 rtsp://192.168.1.154:554。默认 RTSP 端口号为 554。

../../_images/image053.png

接下来,单击"播放"开始 RTSP 串流以查看结果。摄像头的视频流将显示在 VLC 媒体播放器中。

代码参考

您可以根据 WiFi 网络质量调整视频比特率,取消注释以下突出显示的代码即可。

../../_images/image062.png