凤凰周刊官网

艺术展:Al的歧视、缺陷与风险

来源:未知 作者:凤凰周刊 发布时间:2020-11-20
摘要:威廉姆斯住在底特律郊外,今年6月某天在家被警方逮捕,理由是脸部识别软件认为他涉嫌一起偷窃案。闭路电视摄像头只拍到一点点嫌犯,而且非常不清楚。虽然警方知道,他们所使用...

威廉姆斯住在底特律郊外,今年6月某天在家被警方逮捕,理由是脸部识别软件认为他涉嫌一起偷窃案。闭路电视摄像头只拍到一点点嫌犯,而且非常不清楚。虽然警方知道,他们所使用的脸部识别软件有高达96%的错误率,而且软件也显示,对威廉姆斯只有六七成的把握,这暴露了AI的偏差,认为大多数的嫌犯可能是宽鼻梁、低眉毛,从偏见出发,导致脸部识别软件错误百出。

AI怎么可能有偏见?麦克阿瑟“天才奖”得主Trevor Paglen今年明在伦敦佩斯画廊(Pace)的个展直接面对这个问题。从AI的训练过程出发,探讨“受训过”的AI如何反映并延续了种族主义、父权制和阶级分化等社会不平等。不论是治安单位,还是大型企业,利用AI做脸部识别以及监控可能导致什么危险。

被Artnet称为“超级英雄式的实证主义艺术家”,Paglen的专长是透过看得见的,来调查看不见的。他不但为了亲眼看到埋在海底的网络电缆而去学潜水,还由于对美国警察局的“深入观察”,参与斯诺登纪录片《第四公民》的拍摄。

他在佩斯画廊展览的主题是《盛开》。“这是我在今年春天,当世界充满危机,充满了恐惧悲伤时创作的。疫情不但揭露生命的脆弱.也揭露出制度的脆弱。”Paglen在越洋电话中解释,他所住的纽约虽然像个空城,但春天的花朵压倒性地绽放,呈现出大自然的爆发力。“在艺术史上,花朵代表了多层的意义,既可能象征脆弱、生命的短暂,也能够代表生命的降临。”然而,不像在公园所看到的,展览中的花朵看起来相当不自然,尤其是它的颜色。Paglen解释,芘朵的颜色是AI分析了不同的图像之后所生成的,是AI眼中而不是现实生活中的颜色。

训练AI辨识图像,你首先必须为它输入上千万张图片。斯坦福大学开发的图片网ImageNet就是采用了文字数据库WordNet上的字条,为每一个字条找到对应的图像来输入AI。帮AI喂食这么多图片之后,接下来的工作是进行分类,像汽车、植物、水果等,来帮AI消化学习。由于WordNet的结构,输入‘'APPLE”就可能出现苹果、苹果蚜虫、苹果酱、苹果馅饼、苹果天竺葵、苹果果冻、苹果汁、苹果蛆、苹果锈、苹果树、苹果派、苹果酒等结果。“HOT”则会出现热线、热裤、热盘、热锅、热棒、辣酱、温泉、热奶茶、热浴盆、热气球和热水瓶等图片。


责任编辑:凤凰周刊

凤凰周刊订阅

珠海凤凰星文化发展有限公司

手机:13326608032
地址:珠海市人民西路86号

点击这里关闭×