基于RK3576开发板的人脸识别算法

1. 人脸识别简介

人脸识别，是基于人的脸部特征信息进行身份识别的一种生物识别技术。用摄像机或摄像头采集含有人脸的图像或视频流，并自动在图像中检测和跟踪人脸，进而对检测到的人脸进行脸部识别的一系列相关技术，通常也叫做人像识别、面部识别。

人脸识别系统主要包括四个组成部分，分别为：人脸图像采集及检测、人脸图像预处理、人脸图像特征提取以及匹配与识别，本实例也包括这几个流程。

本人脸识别算法在数据集表现如下所示：

人脸识别算法	performance
LFW	99.80%
IJB-C(E4)	97.12%

基于EASY-EAI-Orin-Nano硬件主板的运行效率：

算法种类	运行效率
face_detect	16ms
face_recognition	12.8ms

2. 快速上手

如果您初次阅读此文档，请阅读：《入门指南/源码管理及编程介绍/源码工程管理》，按需管理自己工程源码（注：此文档必看，并建议采用【远程挂载管理】方式，否则有代码丢失风险！！！）。

2.1 源码工程下载

先在PC虚拟机定位到nfs服务目录，再在目录中创建存放源码仓库的管理目录：

cd ~/nfsroot
mkdir GitHub
cd GitHub

再通过git工具，在管理目录内克隆远程仓库（需要设备能对外网进行访问）

git clone https://github.com/EASY-EAI/EASY-EAI-Toolkit-3576.git

注：

* 此处可能会因网络原因造成卡顿，请耐心等待。

* 如果实在要在gitHub网页上下载，也要把整个仓库下载下来，不能单独下载本实例对应的目录。

2.2 开发环境搭建

通过adb shell进入板卡开发环境，如下图所示。

通过以下命令，把nfs目录挂载上nfs服务器。

mount -t nfs -o nolock < nfs server ip >:< nfs path in server > /home/orin-nano/Desktop/nfs/

2.3 例程编译

然后定位到板卡的nfs的挂载目录(按照实际挂载目录)，进入到对应的例程目录执行编译操作，具体命令如下所示：

cd EASY-EAI-Toolkit-3576/Demos/algorithm-face_recognition/
./build.sh

2.4 模型部署

要完成算法Demo的执行，需要先下载人脸检测算法模型

百度网盘链接为：https://pan.baidu.com/s/1AHGYKQQzpbgcMI5seieX1A?pwd=1234(提取码：1234 )。

也要下载人脸识别算法模型。

百度网盘链接为:https://pan.baidu.com/s/1yLIG8fLCLIXGFYw7EPSX4A?pwd=1234 (提取码：1234 )。

然后需要把下载的人脸检测算法模型和人脸识别算法模型复制粘贴到Release/目录：

2.5 例程运行及效果

进入开发板Release目录，执行下方命令，运行示例程序：

cd Release/
./test-face-recognition 1.jpg 2.jpg

运行例程命令如下所示，similarity值大于0.4认为是同一个人，值越大可能性越高，similarity值范围在-1~1之间：

API的详细说明，以及API的调用（本例程源码），详细信息见下方说明。

3. 人脸检测API说明

3.1 引用方式

为方便客户在本地工程中直接调用我们的EASY EAI api库，此处列出工程中需要链接的库以及头文件等，方便用户直接添加。

选项	描述
头文件目录	easyeai-api/algorithm/face_detect
库文件目录	easyeai-api/algorithm/face_detect
库链接参数	-lface_detect

3.2 人脸检测初始化函数

设置人脸检测初始化函数原型如下所示。

 int face_detect_init(rknn_context *ctx, const char *path)

具体介绍如下所示。

函数名： face_detect_init()
头文件	face_detect.h
输入参数	ctx：rknn_context句柄
输入参数	path:算法模型的路径
返回值	成功返回：0
	失败返回：-1
注意事项	无

3.3 人脸检测运行函数

设face_detect_run原型如下所示。

int face_detect_run(rknn_context ctx, cv::Mat &input_image, std::vector< det > &result)

具体介绍如下所示。

函数名：face_detect_run ()
头文件	face_detect.h
输入参数	ctx: rknn_context句柄
输入参数	input_image:Opencv Mat格式图像
输出参数	result:人脸检测的结果输出
返回值	成功返回：0
	失败返回：-1
注意事项	无

3.4 人脸检测释放函数

人脸检测释放函数原型如下所示。

 int face_detect_release(rknn_context ctx)

具体介绍如下所示。

函数名：face_detect_release ()
头文件	face_detect.h
输入参数	ctx: rknn_context句柄
返回值	成功返回：0
	失败返回：-1
注意事项	无

4. 人脸标准化API说明

4.1 引用方式

为方便客户在本地工程中直接调用我们的EASY EAI api库，此处列出工程中需要链接的库以及头文件等，方便用户直接添加。

选项	描述
头文件目录	easyeai-api/algorithm/face_recognition
库文件目录	easyeai-api/algorithm/face_recognition
库链接参数	-lface_recognition

4.2 人脸标准化函数

设置人脸标准化函数原型如下所示。

 cv::Mat face_alignment(cv::Mat img, cv::Point2f* points)

具体介绍如下所示。

函数名： face_alignment()
头文件	face_alignment.h
输入参数	img: opencv图像输入
输入参数	points: Point2f人脸关键点输入
返回值	成功返回：112*112*3的人脸标准化图像
注意事项	输入图片和人脸关键点坐标，输出标准化的人脸头像

5. 人脸识别API说明

5.1 引用方式

为方便客户在本地工程中直接调用我们的EASY EAI api库，此处列出工程中需要链接的库以及头文件等，方便用户直接添加。

选项	描述
头文件目录	easyeai-api/algorithm/face_recognition
库文件目录	easyeai-api/algorithm/face_recognition
库链接参数	-lface_recognition

5.2 人脸识别初始化函数

设置人脸识别初始化函数原型如下所示。

 int face_recognition_init(rknn_context *ctx, const char * path)

具体介绍如下所示。

函数名： face_recognition_init()
头文件	face_recognition.h
输入参数	ctx：rknn_context句柄
输入参数	path:算法模型的路径
返回值	成功返回：0
	失败返回：-1
注意事项	无

5.3 人脸识别运行函数

设face_recognition_run原型如下所示。

int face_recognition_run(rknn_context ctx, cv::Mat *face_image, float (*feature)[512])

具体介绍如下所示。

函数名：face_recognition_run ()
头文件	face_recognition.h
输入参数	ctx: rknn_context句柄
输入参数	face_image:图像数据输入(cv::Mat是Opencv的类型)
输出参数	feature:算法输出的人脸特征码
返回值	成功返回：0
	失败返回：-1
注意事项	无

5.4 人脸识别特征比对函数

设face_recognition_comparison原型如下所示。

float face_recognition_comparison(float *feature_1, float *feature_2, int output_len)

具体介绍如下所示。

函数名：face_recognition_comparison ()
头文件	face_recognition.h
输入参数	feature_1: 人脸特征码1
输入参数	feature_2:人脸特征码2
返回值	成功返回：人脸识别相似度
注意事项	一般相似度大于0.4可以似为同一个人

5.5 人脸识别释放函数

人脸识别释放函数原型如下所示。

 int face_recognition_release(rknn_context ctx)

具体介绍如下所示。

函数名：face_recognition_release ()
头文件	face_recognition.h
输入参数	ctx: rknn_context句柄
返回值	成功返回：0
	失败返回：-1
注意事项	无

6. 人脸识别算法例程

例程目录为Demos/algorithm-face_recognition/test-face-recognition.cpp，操作流程如下。

参考例程如下所示。

#include < opencv2/opencv.hpp >
#include < stdio.h >
#include < unistd.h >
#include < sys/time.h >
#include < sys/stat.h >
#include < sys/syscall.h >
#include "face_detect.h"
#include "face_alignment.h"
#include "face_recognition.h"


using namespace cv;


int main(int argc, char **argv)
{
	rknn_context detect_ctx, recognition_ctx;
	std::vector< det > result1, result2;
	int ret;
	struct timeval start;
	struct timeval end;
	float time_use=0;


	if( argc != 3)
	{
		printf("./face_recognition_demo xxx.jpg xxx.jpgn");
		return -1;
	}

	cv::Mat src_1, src_2;
	src_1 = cv::imread(argv[1], 1);
	src_2 = cv::imread(argv[2], 1);

	/* 人脸检测初始化 */	
	printf("face detect init!n");
	ret = face_detect_init(&detect_ctx, "./face_detect.model");
	if( ret < 0)
	{
		printf("face_detect_init fail! ret=%dn", ret);
		return -1;
	}

	/* 人脸识别初始化 */
	printf("face recognition init!n");
	ret =  face_recognition_init(&recognition_ctx, "./face_recognition.model");
	if( ret < 0)
	{
		printf("face_recognition fail! ret=%dn", ret);
		return -1;
	}

	/* 人脸检测执行 */
	face_detect_run(detect_ctx, src_1, result1);
	face_detect_run(detect_ctx, src_2, result2);

	Point2f points1[5], points2[5];

	for (int j = 0; j < (int)result1[0].landmarks.size();   j) 
	{
		points1[j].x = (int)result1[0].landmarks[j].x;
		points1[j].y = (int)result1[0].landmarks[j].y;
	}

	for (int j = 0; j < (int)result2[0].landmarks.size();   j) 
	{
		points2[j].x = (int)result2[0].landmarks[j].x;
		points2[j].y = (int)result2[0].landmarks[j].y;
	}

	Mat face_algin_1, face_algin_2;
	face_algin_1 = face_alignment(src_1, points1);
	face_algin_2 = face_alignment(src_2, points2);


	/* 人脸识别执行 */
	float feature_1[512], feature_2[512];

	gettimeofday(&start,NULL); 
	face_recognition_run(recognition_ctx, &face_algin_1, &feature_1);
	gettimeofday(&end,NULL);
	time_use=(end.tv_sec-start.tv_sec)*1000000 (end.tv_usec-start.tv_usec);//微秒
	printf("time_use is %fn",time_use/1000);

	face_recognition_run(recognition_ctx, &face_algin_2, &feature_2);


	float similarity;
	similarity = face_recognition_comparison(feature_1, feature_2, 512);

	printf("similarity:%fn", similarity);	

	/* 人脸检测释放 */
	face_detect_release(detect_ctx);

	/* 人脸识别释放 */
	face_recognition_release(recognition_ctx);

	return 0;
}

审核编辑 黄宇