科技中立，但人制造出来的 AI 却可能带有偏见或歧视。AI 偏见情况像是性别歧视、种族歧视，例如面部侦测算法在识别白人时的准确率比识别黑人高许多，男性跟女性类别也存在类似问题，让软件识别犯罪嫌犯人选、企业挑选求职者时，也曾引发歧视问题。
为了减少这方面的偏差，IBM研究院打造了一套更加多样化的“百万人脸数据集”。近年来，随着智能手机的普及，面部识别已经在许多领域得到了广泛的运用。然而在一些测试中，某些看似很优秀的 AI，竟然也会败下阵来。
凭借全新的“百万多样性人脸数据集”，AI 开发者将能够充分考虑到多样性的面部特征（DiF）。
为使面部识别能够按照要求执行（既公平又准确），训练用的数据，必须提供足够的平衡和覆盖。
它应该足够大、且多样化，以便了解更多类型的面部固有差异。图像必须反映我们在世界中看到的面部特征的多样性。
