小编人们常常仅仅根据一个人的说话办法就很快知道他从哪里来。
而现在，部分AI系统乃至也正在学习“歧视”某些方言。
随着基于措辞学习的AI系统越来越遍及，该领域的研究专家们发出了这样的警告：一些少数方言或措辞可能已经被机器自动忽略了。
说话带有很重的地方口音或者奇怪口音的人大概会有这种感想熏染：Siri或者Alexa总是听不懂你说了什么。
这是由于它们的声音识别系统利用自然措辞技能来解析你的声音，而自然措辞技能的算法则通过样品数据来演习机器识别人声的能力。
这就导致，如果某种口音或是方言没有足够的样本数据的话，AI系统可能会干脆放弃或打消它们。

这个问题带来的后果可能比我们想的更麻烦且影响广泛。
自然措辞技能现在已经用于自动客户做事，自动电话谈天或网络谈天做事中。
它还被用于挖掘网络或社交媒体的"大众年夜众见地，梳理网络文章的有用信息。
这意味着，所有利用自然措辞技能的做事都可能成为潜在的歧视特定少数人群的“帮凶”。
马萨诸塞大学的助理教授Brendan O`Connor和他的学生Su Lin Blodgett对推特上的措辞利用情形作了一项调查。
他们利用人口统计过滤工具在推特中拣选了5920万条包含非洲美式鄙谚的推文作为样本，再利用一些基于自然措辞技能的常用工具对这些推文进行剖析。
结果创造，这些推文却被识别为丹麦语，而且系统对此并没有太多疑惑。
“如果人们利用推特来剖析大众关于某一位政治家的见地，而这个剖析工具终极完备不考虑非裔美国人或者年轻人在说什么，这就不太好了”，O`Connor说。
研究职员们还测试了一些用于剖析文今年夜意或是个中感情的基于机器学习的API，结果同样的不乐不雅观。
“如果你从一家公司购买一套感情剖析运用，你并不会知道这里面有着若何的倾向性。
”O`Connor说，“我们连关于这种倾向性带来的歧视风险的评判审核都没有多少。
”他还说，这种歧视问题不仅存在于上面说到的系统中，它存在于任何利用措辞的系统中——包括搜索引擎。

演习AI进修一门措辞时方言就不管了

随着AI的推广，有关利用AI算法的不公道问题已经在世界的许多角落越来越多的引起人们的把稳。
一个关于倾向性算法的广受争议的例子，是一款叫做Compass的专有算法，它被用于判断一个犯人是否应该被假释。
Compass里面的算法并没有公开，不过有研究表示，它可能存在做出不利于黑人囚犯的判断的倾向性。
还有专家乃至表示，这一问题的实际影响可能早已比人们已知的更严重，它将会影响到人们在金融、医疗、教诲等领域的诸多决定。
马萨诸塞大学的研究职员已经在一次磋商关于AI中的倾向性问题的Workshop中揭橥了他们的研究成果。
今年，一个大型的数据科学大会中，有一个名为“机器学习中的公道与透明”的环节，而这一环节将会在2018年作为独立的单元举办。
康奈尔大学的助理教授、同时也是这一活动的共同创始人之一Solon Barocas说，人们对付这一领域的的关注正在增长，越来越多的研究职员们在磋商AI中的倾向性带来的后果。
斯坦福大学的助理教授Shared Goel 主攻研究算法的公道透明政策。
他说，关于这一问题不应该刀切斧砍的大略下定论:说一个算法本身带有倾向性这一结论可能太过片面， 由于这种研究可能本身便是有目的的，而事先的假设范围又太过狭窄，却被用来反响一个广泛的社会性问题。
“大概我们更该当描述一个算法到底在做什么，它为什么这样做，然后再去决定这是不是我们想要的算法。
”