《DNK210使用指南 -CanMV版 V1.0》第四十五章 人脸识别实验

正点原子

1）实验平台：正点原子DNK210开发板
2）购买链接：https://detail.tmall.com/item.htm?id=782801398750
3）全套实验源码+手册+视频下载地址：http://openedv.com/thread-348335-1-1.html
4）正点原子官方B站：https://space.bilibili.com/394620890
5）正点原子手把手教你学DNK210快速入门视频教程：https://www.bilibili.com/video/BV1kD421G7fu
6）正点原子FPGA交流群：132780729

第四十五章 人脸识别实验

       在上一章节中，介绍了利用maix.KPU模块实现了人脸68关键点检测，本章将继续介绍利用maix.KPU模块实现的人脸识别。通过本章的学习，读者将学习到人脸识别应用在CanMV上的实现。
       本章分为如下几个小节：
       45.1 maix.KPU模块介绍
       45.2 硬件设计
       45.3 程序设计
       45.4 运行验证

       45.1 maix.KPU模块介绍
       有关maix.KPU模块的介绍，请见第39.1小节《maix.KPU模块介绍》。

       45.2 硬件设计

       45.2.1 例程功能
       1. 获取摄像头输出的图像，并送入KPU进行人脸检测，接着对检测到的人脸分别进行人脸特征提取，然后将提取到的人脸特征与先前录入的人脸特征进行对比，如果得分高于阈值，则能成功识别人脸，最后将识别结果同原始图像在LCD上进行显示。
       2. 按下KEY0按键可以录入当前人脸的特征。

       45.2.2 硬件资源
       本章实验内容，主要讲解maix.KPU模块的使用，无需关注硬件资源。

       45.2.3 原理图
       本章实验内容，主要讲解maix.KPU模块的使用，无需关注原理图。

       45.3 程序设计

       45.3.1 maix.KPU模块介绍
       有关maix.KPU模块的介绍，请见第45.1小节《maix.KPU模块介绍》。

       45.3.2 程序流程图

图45.3.2.1 人脸识别实验流程图

       45.3.3 main.py代码
       main.py中的脚本代码如下所示：

1. from board import board_info
   
2. from fpioa_manager import fm
   
3. from maix import GPIO
   
4. import time
   
5. import lcd
   
6. import sensor
   
7. import gc
   
8. from maix import KPU
   
9. 
   
10. fm.register(board_info.KEY0, fm.fpioa.GPIOHS0)
    
11. key0 = GPIO(GPIO.GPIOHS0, GPIO.IN, GPIO.PULL_UP)
    
12. save_feature = False
    
13. def key_irq_handler(key):
    
14.     global key0
    
15.     global save_feature
    
16.     time.sleep_ms(20)
    
17.     if key is key0 and key.value() == 0:
    
18.         save_feature = True
    
19. key0.irq(key_irq_handler, GPIO.IRQ_FALLING, GPIO.WAKEUP_NOT_SUPPORT, 7)
    
20. 
    
21. lcd.init()
    
22. sensor.reset()
    
23. sensor.set_framesize(sensor.QVGA)
    
24. sensor.set_pixformat(sensor.RGB565)
    
25. sensor.set_hmirror(False)
    
26. 
    
27. anchor = (0.1075, 0.126875, 0.126875, 0.175, 0.1465625, 0.2246875, 0.1953125, 0.25375, 0.2440625, 0.351875, 0.341875, 0.4721875, 0.5078125, 0.6696875, 0.8984375, 1.099687, 2.129062, 2.425937)
    
28. names = ['face']
    
29. 
    
30. # 构造并初始化人脸检测KPU对象
    
31. face_detecter = KPU()
    
32. face_detecter.load_kmodel("/sd/KPU/face_detect_320x240.kmodel")
    
33. face_detecter.init_yolo2(anchor, anchor_num=len(anchor) // 2, img_w=320, img_h=240, net_w=320, net_h=240, layer_w=10, layer_h=8, threshold=0.5, nms_value=0.2, classes=len(names))
    
34. 
    
35. features = []
    
36. score_threshold = 80
    
37. 
    
38. # 构造并初始化人脸特征提取KPU对象
    
39. feature_extractor = KPU()
    
40. feature_extractor.load_kmodel('/sd/KPU/feature_extraction.kmodel')
    
41. 
    
42. # 按指定比例扩展矩形框
    
43. def extend_box(x, y, w, h, scale):
    
44.     x1 = int(x - scale * w)
    
45.     x2 = int(x + w - 1 + scale * w)
    
46.     y1 = int(y - scale * h)
    
47.     y2 = int(y + h - 1 + scale * h)
    
48.     x1 = x1 if x1 > 0 else 0
    
49.     x2 = x2 if x2 < (320 - 1) else (320 - 1)
    
50.     y1 = y1 if y1 > 0 else 0
    
51.     y2 = y2 if y2 < (240 - 1) else (240 - 1)
    
52.     return x1, y1, x2 - x1 + 1, y2 - y1 + 1
    
53. 
    
54. while True:
    
55.     img = sensor.snapshot()
    
56.     face_detecter.run_with_output(img)
    
57.     faces = face_detecter.regionlayer_yolo2()
    
58.     for face in faces:
    
59.         # 框出人脸位置
    
60.         x, y, w, h = extend_box(face[0], face[1], face[2], face[3], 0.08)
    
61.         img.draw_rectangle(x, y, w, h, color=(0, 255, 0))
    
62.         # 计算人脸特征并于保存的人脸特征进行比对获取相似度得分
    
63.         scores = []
    
64.         max_score = 0
    
65.         face_img = img.cut(x, y, w, h)
    
66.         resize_img = face_img.resize(64, 64)
    
67.         resize_img.pix_to_ai()
    
68.         feature = feature_extractor.run_with_output(resize_img, get_feature=True)
    
69.         for i in range(len(features)):
    
70.             score = KPU.feature_compare(features, feature)
    
71.             scores.append(score)
    
72.         # 计算得分的最大值
    
73.         if len(scores) is not 0:
    
74.             max_score = max(scores)
    
75.         # 根据阈进行人脸识别
    
76.         if max_score > score_threshold:
    
77.             img.draw_rectangle(x, y, w, h, color=(0, 255, 0))
    
78.             img.draw_string(x + 2, y + 2, str(scores.index(max(scores))), color=(0, 255, 0), scale=1.5)
    
79.         # 根据中断按键进行人脸特征录入
    
80.         if save_feature is True:
    
81.             save_feature = False
    
82.             features.append(feature)
    
83.         del scores
    
84.         del max_score
    
85.         del face_img
    
86.         del resize_img
    
87.         del feature
    
88.         
    
89.     lcd.display(img)
    
90.     gc.collect()

复制代码

       可以看到一开始是先初始化了LCD和摄像头，并分别构造并初始化了用于人脸检测和人脸特征提取的KPU对象。
       然后便是在一个循环中不断地获取摄像头输出的图像，首先将图像进行人脸检测，检测图像中存在的人脸，接着对人脸图像进行人脸特征提取，然后将提取到的人脸特征与先前保存的人脸特征进行对比，若对比得到高于指定的阈值，则表示能够识别出人脸，通过在获取到人脸特征后可以根据需要进行人脸特征的录入，最后将以上所有的分析检测结果在图像上进行绘制，然后在LCD上显示图像。

       45.4 运行验证
       将DNK210开发板连接CanMV IDE，点击CanMV IDE上的“开始(运行脚本)”按钮后，将摄像头对准人脸，让其采集到人脸图像，接着按下KEY0按键来录入人脸的特征，录入多张人脸特征后，可以看到LCD上显示了人脸识别的结果，每张人脸根据其特征比对得分，得到一个ID号，ID号与人脸录入的顺序有关，如下图所示：

图45.4.1 LCD显示人脸识别实验结果