研究表明Google AI在识别女性口罩方面存在问题


营销公司Wunderman Thompson的数据小组进行的一项最新研究表明,当对戴着口罩的人进行测试时,成熟的AI系统(如Google AI)存在性别偏见 。
这项研究中使用的AI系统来自知名的技术名称,例如Google Cloud Vision,Microsoft Azure的Cognitive Services Computer Vision和IBM的Watson Visual Recognition 。
我们都知道AI仍在开发中 。此外,随着时间的推移频繁使用它只会变得更好 。但是,研究结果表明,男人比女人更倾向于男人 。该研究还使很多事情受到质疑 。
Wunderman Thompson的数据小组进行的研究检查了视觉AI系统是否以与女性相同的方式对待穿着PPE套件的男性 。在不同的条件和质量下总共拍摄了256张性别的图像 。
研究中使用的所有AI系统均表现不佳
根据ZDNet的报告,研究中使用的AI系统都无法执行我们可以称做恒星或至少良好的人工智能系统 。而且,所有人都发现很难在男人或女人的脸上发现口罩 。
但是,戴着口罩的男性面部要比戴着口罩的女性面部更容易识别 。Google AI的遮罩研究给出了一些令人震惊的结果 。它可以识别出28%的女性图像,因为她们的嘴被胶带覆盖了 。而且信心高达95% 。其他8%的情况下,人工智能检测到戴口罩的女性,因为他们是面部毛发的女性 。
IBM的数字也不是很好 。结果显示,有23%的女性戴口罩 。同时,在其他23%的案件中,可以肯定的是,妇女戴着链条或约束装置,而不是戴口罩 。同时,只有5%的案例显示出预期的结果 。
微软的计算机视觉似乎已经被很好地编码 。结果表明,有40%的情况是因为女性穿着一些时尚配饰,还不错 。在其他14%的时间中,它将女性脸上的面具识别为口红 。它只有5%的时间检测到女性脸上的面具 。
这项研究对像Google,IBM这样的成熟AI系统的教育提出了质疑
研究人员没有仔细检查这些AI系统的制造者,而是很好地揭示了这些AI系统所面临的偏见 。
此外,尽管AI会随着时间的流逝而从学习模式中进行自我教育,但最终最终结果还是由人类来承担 。此外,制造商应确保他们反映的是一个中立的社会,而不是普遍存在性别偏见的历史社会 。
这将使自动化进入预期的路径 。因为如果本地结果令人震惊,那么训练数据肯定存在问题 。
【研究表明Google AI在识别女性口罩方面存在问题】

    推荐阅读