43、面部识别与可解释人工智能评估指标研究

面部识别与可解释人工智能评估指标研究

1. 面部识别受口罩影响的分析

在面部识别研究中，发现面部识别效果会受口罩下图像的“连续性矩阵”影响。并且由于实验数据集构建方式，研究未包含不同类型口罩对识别系统影响的区分，但已知不同类型口罩会影响人脸识别系统。在商业和安全应用测试中，这些应用在识别戴口罩的面部时完全失败。

研究得出以下结论：
- 目前，大多数依赖传统技术和深度学习的应用，即使是在未针对口罩遮挡信息情况开发的条件下，仍有至少30%的识别有效性。
- 若佩戴者露出至少40%的面部用于识别，戴口罩面部识别的成功率会显著提高。
- 基于上述结论，只要口罩使用目的明确为防护和健康场景，戴口罩可能不会带来安全或身份盗窃问题。
- 鉴于目前通过数据增强技术能轻易处理图像，未来很快会出现基于有口罩和无口罩面部训练的应用。

2. 可解释人工智能（XAI）概述

人工智能在过去十年有显著发展，广泛应用于关键决策系统（如医疗或司法相关应用）、推荐系统以及信贷、就业等流程。然而，当系统依赖深度神经网络等黑盒模型而非简单统计模型时，模型复杂度增加会导致可解释性降低，量化和向系统交互者解释XAI的有效性成为挑战。

可解释人工智能系统旨在检测如性别或社会歧视等不必要的偏差，通过算法透明性确保公平、安全和隐私。因为大多数算法收集和分析用户数据影响决策，根据GDPR委员会规定，每个个体有权获得解释。例如在政治选举中，曾出现个人信息被收集并违背本人意愿使用的情况。

提供解释的另一个重要优势是获得用户信任。能提供解释的系统会让用户感觉更具人性，因为人类习惯为事件赋予因果关系。XAI过程架构为每个智能系统生成的决