微软删除人脸识别数据库 如何平衡城市安全和个人隐私成关键

AiChinaTech
关注

微软删除人脸识别数据库 如何平衡城市安全和个人隐私成关键

近日,英国《金融时报》报道,微软悄然删除MS Celeb人脸识别数据库,微软称该数据库是全球最大的公开人脸识别数据库。该数据库于2016年公开,含有约10万人的1000万张照片,用于辅助全球科技公司和军事研究人员面部识别工作,但这些照片未获得本人许可。4月媒体曝光其商业用途后,微软将其删除。

微软一直公开反对将人脸识别技术作为监督方式,但2018年12月,微软曾呼吁各公司建立保障措施,督促各国政府立法,要求对人脸识别技术进行独立测试。今年4月份,微软拒绝了加利福尼亚州一家执法机构在警车和便携摄像头上安装人脸识别设备的要求。

近两年是人工智能的爆发年,随着人工智能的赋能,人脸识别技术以其不可复制性、非接触性、可扩展性和快速性等特点在多种生物识别技术中脱颖而出。国内更是诞生了许多计算机视觉领域的优质企业,如旷视科技、商汤科技、极链科技、依图科技、云从科技等。

虽然人脸识别技术便于机构观察和跟踪个人,但新的问题也将随之而来,从技术水平看,人脸是唯一不需要用户主动配合就可以采集到的生物特征信息,人们每天被不同的监控拍摄成百上千次,随时面临着个人隐私的暴露。如何保证城市生活安全和个人隐私之间做到平衡,成为了当前社会关注的重点。

人脸识别技术难点

当前,人脸识别的过程依次为活体检测—人脸检测拍摄—上传服务器对比或本地处理—面部特征点定位—提取和分类—校验和识别—分析返回结果,但这些过程中依然会找到突破点来实现欺骗或者绕过人脸识别,人脸识别隐私问题依然存在技术难点。

1、活体检测攻击和绕过

SecID的员工使用录制的视频,就轻松绕过了俄罗斯著名人脸识别公司VisionLabs的活体检测。

这个方法毫无技术门槛,只要有目标用户的音视频即可剪辑出一段视频实现活体检测的攻击。用应用注入的方式,甚至可以实现绕过活体检测,因为活体检测肯定是先于人脸识别发生的,可以在程序中打断点,通过试验演示整个流程触发断点,分析并修改程序存储的一些关键数值,就能达到绕过活体检测的目的。而一旦活体检测被绕过,一张普通的照片都能通过静态的人脸识别。

2、服务器交互过程攻击

很多APP或SDK在上传拍摄的照片时,明文传输,且没有对图像数据进行签名,导致图像数据可以被截获篡改,有的在数据报文没有加入时间戳,可以通过重放数据报文的方式来实施破解。

我们在测试某款应用的过程中,甚至出现过这样的情况:本地上传人脸数据到服务器,服务器返回一个匹配度,本地通过匹配度来决定人脸识别是否通过,该应用没有对数据报文加签名,导致返回数据可以被轻松篡改,最终绕过人脸检测。

3、3D打印绕过检测

iPhoneX发布后一周,越南安全公司Bkav用3D打印的脸部大面具轮廓、硅树脂材料制作的鼻子、2D打印的眼眶区域和部分面部的化妆,制作成了一个假的人体面具成功破解了苹果的Face ID系统。随着3D打印技术的低成本化和普及化,可以预料的是,未来会出现越来越多的人脸识别系统被破解的案例,即使3D结构光的在旗舰手机上的逐渐普及也无法挽回这个趋势。说到底,人脸识别只能作为一种弱加密手段来使用,他无法改变人脸可以被复制的属性,破解人脸识别只是时间和成本问题,而不是技术问题。

4、对抗网络破坏人脸识别

多伦多大学的教授Parham Aarabi 和研究生Avishek Bose 5月31日在Arxiv上提交了一篇论文,该论文演示了一种“对抗性训练”,建立起两种相互对抗的算法。

Aarabi 和 Bose 创建了两个神经网络,一个是识别人脸的网络,另一个是破坏其既定目标的神经网络。这两个网络互相学习,相互提升效果。其实就是当初对抗样本的原理,利用对抗原理,只要轻微改动几个关键像素的值,这样的改动对人类来说甚至无法察觉,但完全可以达到欺骗神经网络的作用。

当前人脸识别技术的壁垒

1.人脸识别率参差不齐

人脸识别技术属于生物特征识别技术,是对人本身的生物特征来区分生物体个体。人脸识别技术是指利用分析比较的计算机技术识别人脸。但人脸识别系统在用户配合且采集条件理想的情况下可以取得令人满意的结果。但在用户不配合的情况下,现有的系统识别率将参差不齐。也就是人脸如果发生一些变化,系统很可能会认真失败。随着年龄的变化,面部外观也会发生变化,特别是对于青少年,这种变化更加明显,对于不同的年龄段,人脸识别算法的识别率也不同。年龄变化对人脸识别算法的影响也是当前人脸识别率参差不齐的主要原因。

2.隐私问题严峻

从微软悄然删除MS Celeb人脸识别数据库时间就可以看出,通过人脸识别技术思然可以获取相应的用户信息,但也在一定程度上会造成用户信息泄露,有侵犯用户隐私的嫌疑。

从技术层面讲,人脸识别技术的大规模使用,人脸是无法复制的,但是基于人脸特征点的信息是以数字化信息进行存储的,相关数据库就面临着被黑客攻击或者自身防范不力导致泄露事件。人脸特征数据库的外泄将面临更大的隐患。以往密码被窃取,可通过重新设置实现密码更改,并提高安全防范级别。但人脸等生物特征信息是唯一且终身不变的,因此,一旦泄露就将导致人们个人财产、或者隐私等被公开,造成重大损失。当前人们逐渐开始了解人脸识别这个领域,并对于个人隐私的信息的重视日益增长,而如何平衡个人隐私和保证城市生活安全成为了人脸识别技术的巨大技术壁垒。

小结:

在当前的情况下,人脸识别的确一定程度上满足了便捷性要求,但却是以牺牲安全性为代价的,所以,人脸识别并非是一种完全安全的验证方式。如何破解人脸识别隐私安全问题,有没有一种技术可以让人脸识别打破当前技术壁垒?答案还未知。未来,人脸识别技术必将会应用到更加广泛的应用中去,然而技术的升级不能解决一切问题,或许还会诞生出新的问题。中国作为人脸识别技术大国,还是应该尽快确立相应的法律法规和行业生产标准,以此平衡城市安全和个人隐私之间的平衡。

声明: 本文由入驻OFweek维科号的作者撰写,观点仅代表作者本人,不代表OFweek立场。如有侵权或其他问题,请联系举报。
侵权投诉

下载OFweek,一手掌握高科技全行业资讯

还不是OFweek会员,马上注册
打开app,查看更多精彩资讯 >
  • 长按识别二维码
  • 进入OFweek阅读全文
长按图片进行保存