量子位 宣布 | 公众年夜众号 QbitAI
亚马逊栽了个大跟头。
长期以来，这家电商巨子一贯运用AI提升效率，但切切没想到的是，原来该当公正公道、没故意识的AI，也会“作去世”了……
好的不学，非要学别人重男轻女、歧视女性。
而这个内部秘密，刚刚被路透社曝光于天下。
事宜一出，掀起了轩然大波。
国外的网友们纷纭开始吐槽，讲述自己曾经经历过的不公正事宜，以及奇葩的打算机系统等等。还有一堆网友开始剖析问题缘故原由。
亚马逊也喜提了一波嘲讽：
“可以说这个人工智能很成功，由于它模拟了亚马逊当前的招聘状态。”
一个戴有色眼镜的AI筛简历是很多HR的核心事情之一，对付亚马逊这样的大公司来讲，不仅岗位多，投递同一个岗位的求职者可能也非常多，于是，无穷无尽的浏览简历就成了HR的日常。
而且，同一个岗位收到的简历里，总有一些达不到用人标准的、“文不对题”的简历，纵然是适宜的人，也会分出三六九等，有人很精良，也有人比精良的人更精良。从求职者之中挑选最得当的人，也是让HR们头疼的一件事。
那能不能找一个AI，来自动帮HR们筛简历呢？
于是，作为一家电商公司，亚马逊把日常的用户给商品标星打分的功能，挪到了AI给求职者简历打分上。这样，HR们就可以美滋滋的说：“我，只看五星简历，AI快给我挑出来。”
2014年，这个项目就开始了，亚马逊的机器学习团队开始开拓筛简历AI。
但是到2015年，亚马逊创造：糟了，这个AI不学好，学会了人类性别歧视那一套。
如果把投递“软件开拓工程师”或者其他技能岗位的求职者简历扔给这个AI来打分，它就会给包含“女”这个关键词的简历打低星，而“男”则不受影响。
其余，如果简历上写着求职者毕业于某两所女子大学，这个AI也会给求职者降星。路透社的线人并没有说是哪两所学校。
人类能不能找到一份事情，竟然要看“AI的神色”，作为女性求职者，凭什么让AI对我说三道四？在美国，这种涉嫌歧视的事情稍不把稳就会招来一大波反对的声音，引发大负面。亚马逊赶紧修正这个AI，让它对“男”、“女”这些词保持中立。
但是，改是改不完的，本日教AI不要歧视女性，来日诰日它会不会歧视黑人？后天它会不会歧视LGBT人群？大后天它会不会开舆图炮？这些都说不准。
后来，亚马逊放弃了这个项目。
都是你们人类的锅！一个好好的AI，怎么发展过程中就自动学会了性别歧视这种坏毛病？
这得看它是“吃”什么终年夜的，也便是用什么数据来演习的AI。
很不幸，锅还是得亚马逊自己来背，由于这个AI“吃”的都是亚马逊自家的招聘数据，来自亚马逊过去10年来收到的简历，依据这些简历，亚马逊的AI学会了挑出男性求职者。
男性本身就多？
这些数据有什么问题呢？路透社剖析，可能是由于科技行业中的大部分技能岗位都是男性在做。
△ 美国有名科技公司环球员工性别比
△ 美国有名科技公司技能岗员工性别比
路透社整理了自2017年起这些公司公布的数据，从中可以看出，像谷歌、苹果、微软、Facebook这些公司，整体上男性占了2/3，而单独挑出技能岗位，男性比例则达到了将近4/5。
AI学会了人类的歧视
不过，数据量大小并不虞味着少数数据就会被歧视，相信亚马逊的AI也不会傻到只选取简历数据中大多数人的共同特点，那样岂不是错过了少数天才？
在Hacker News和Reddit的评论区，一些更懂技能的网友把矛头对准了数据表示的亚马逊在招聘中现存的性别歧视问题。
从技能上讲，可以说这个人工智能是成功的，由于它模拟了亚马逊当前的招聘状态。并给出了背后的逻辑。
机器学习过程不会引入任何偏差，但演习数据中存在的任何偏差都将在算法中虔诚地展现出来。
也便是说，AI自己本身是一个天真天真的“幼儿”，它不会自主的学会偏见和歧视，但如果给“幼儿”上课的“老师”亚马逊的招聘数据自身带了偏见，那么这些偏见就会“言传身教”给无辜的AI。
或者说，AI是从人类社会中，学会了人类的偏见和歧视。
我们不想让AI歧视女性，但这绝非易事，由于AI无法忽略它所学习的人类社会对女性的歧视。这绝对是一个难题，不仅仅是技能上的难题，更是哲学层面上的难题。AI在无意中学会人类之恶，这并不是第一次发生。
此前的微软的谈天机器人Tay，就曾经学会了人类的那些极度辞吐，在Twitter上诅咒女权主义者和犹太人。
而招聘AI这一次，人类的缺点让AI重蹈覆辙了。
“很显然，我们没有吸取微软Tay的任何教训。”有网友评论道。
这个AI靠抓关键词？
不但是演习数据的问题。路透社的宣布中还表露了亚马逊演习AI的细节。
· 开拓了500个针对特定事情职能及岗位的模型。· 演习每个模型去识别过去求职者简历中涌现的近5万个关键词。· 模型算法按照主要程度给求职者的技能进行优先级排序。以是这个AI，很大一部分事情是在抓关键词嘛。比如它偏好的“实行”、“抓取”这种词，在男性求职者的简历中涌现次数更多，也从另一个维度造成了女性候选人的劣势。
因此，这也是导致性别歧视的一个缘故原由。乃至，还可能会给人“钻空子”的机会。
Reddit上的一名网友评论称：
“亚马逊阅读简历的AI从一开始就注定了要失落败，由于任何人都可以去学习若何写好一份简历。让我写一份年夜夫的简历，我打赌我会比真年夜夫写的要好。”
想一想那些“简历写作技巧”的培训，是不是都见告你HR看一份简历只要二三十秒，简历里有某些关键词、主要数据就能吸引HR的把稳？
因此，这种抓关键词的机制，就得以让很多人通过强行往简历里塞关键词，而得到更高的星级，造成了另一种不公正。
AI招聘，道阻且长根据招聘公司CareerBuilder 2017年在美国进行的一项调查，55%的人力资源经理表示，将会在未来五年中采取AI，并将其作为日常事情中的工具。
一些“激进”或者说有大量招聘需求的公司，已经将AI运用到招聘环节中去了。比如希尔顿酒店，就在招聘的时候，会先利用谈天机器人口试，并为求职者匹合营适的岗位，之后再进入下一轮口试。
在接管采访时，希尔顿招聘副主管Sarah Smart表示，“人工智能会剖析求职者的语调、眼神和回答的表情，来判断求职者是否对事情富有激情亲切，从而来帮助我们筛选求职者。”
详细体验怎么样呢？体验过谈天机器人口试官的Japser Rey说，“和谈天机器人对话时，我不用担心自己会分神，而且机器人不会戴有色眼镜看人，相对更公正公道一些。”
相对来说，大部分公司并没有将AI放到详细的招聘决策环节之中，只是作为一个赞助工具。
百度：将AI运用到了招聘上，在今年的校园招聘中，采取AI剖析简历、推举岗位。高盛：开拓了简历剖析工具，会将求职者与“最适宜”的部门进行匹配。LinkedIn：根据网站上发布的岗位，利用算法为店主供应求职者的排名。只管人们对AI招聘并不十分待见，但却无法阻挡这样一个趋势：AI终将旁边你找事情这件事。
它只会迟到，但不会缺席。