这个仅限女生的应用使用AI来筛选用户的性别

【这个仅限女生的应用使用AI来筛选用户的性别】
一个名为Giggle的新社交应用正在将自己定位为仅限女孩的社交平台 。要注册,用户必须自拍照 。尽管听起来可能不太侵入性,但该应用程序随后使用“生物特征性别验证软件”来确定该人是否是女性 。如果这还不够糟糕,那么如果您是跨性别的,该技术将无法正常工作 。
该公司在其网站上指出:“ [g] glegle适用于所有女孩,然后再添加”,“由于giggle使用的性别验证软件,跨性别女孩在进行验证时会遇到麻烦 。”反乌托邦小说 。
由澳大利亚编剧萨尔·格罗弗(Sall Grover)创立的Giggle可以观察人脸的骨骼结构,从而确定其性别 。这在许多方面都是有问题的,尤其是骨骼结构显然不能很好地表明性别认同 。尽管如此,吉格勒说科学是健全的 。该网站宣称:“这是生物科学,而不是像颅相学这样的伪科学 。”
除了听起来很像伪科学 。在Twitter上,人们喊出了该应用程序固有的恐惧感 。一位用户写道:“我们将像绵羊一样等待我们的审判 。”“它只需要一张自拍照-如果嘻嘻笑让我们进入,我们将受到女性社会的欢迎,并永远消失 。如果没有,我们将被抛弃在杂碎和排泄物中 。”
最终,为跨性别女孩准备了终极测试 。我们将像羊一样等待我们的审判 。它所要做的只是一张自拍照-如果嘻嘻笑让我们进入,我们将受到女性社会的欢迎,并永远消失 。如果没有,我们将被丢弃在一堆杂碎和排泄物中pic.twitter.com/lZnw8AzZF0
— venmodiazepines(@transbitch)2020年2月7日
Grover回应了批评,发推文说她在构建应用程序时曾咨询过跨性别女性,并确定最好公开承认该软件的限制 。她解释说:“我们与跨性别的女孩一起工作,他们认为最好是先发现缺陷,这样才不会造成伤害性的性别歧视 。”后来,她说她“感谢您的反馈”,并同意网站上的某些措辞“令人讨厌” 。
但是,该应用程序的隐私权政策也令人担忧 。正如一个Twitter用户指出的那样,Giggle可以收集大量的个人信息,包括人们的图像,位置,偏好和浏览数据 。然后,Giggle可以与第三方网站和服务(包括面部识别提供商,聊天室提供商和营销商)共享该信息 。它还收集敏感信息,包括人们的“性行为或性生活”,记录以及私人健康信息 。
更多的红旗 。这是他们的隐私政策,上面直接说了他们正在收集并保留散发女孩形象的权利 。pic.twitter.com/PWGhpen8eq
-内尔(@drawnoutofshape)2020年2月6日
尚不清楚Giggle为什么需要访问这种细粒度的数据,因为它的目标主要是将女性与潜在的室友或旅行伙伴联系起来 。但是在一个不断扩大的监视时代,像Clearview AI这样的公司在没有人知情或未经同意的情况下识别人脸的情况下,基于可疑生物特征筛选和广泛数据收集的应用程序应引起关注 。尽管Giggle的网站说该应用程序“旨在为女孩提供选择,控制和连接的功能”,但其技术似乎恰恰相反 。

    推荐阅读