亚马逊谨慎放弃基于性别的基于AI的招聘工具

人们发现,招聘引擎偏向于男性,而拒绝了女性的简历。

0
5109

位于美国西雅图的Amazon.com的技术团队发现,他们的基于人工智能的新招聘工具正在表现出对男性的偏爱,该工具被用来审查简历和工作申请,并筛选合适的人才。

该公司一直在尝试使用新的招聘工具来评价有抱负的候选人并选择最优秀的候选人。但是,一段时间后,该工具所做的选择显然存在性别偏见。这是由于计算机根据十年来收到的模式/简历进行的应用程序审查。由于大多数履历属于男性,因此引擎认为男性是显而易见的选择。该工具显然拒绝包含“妇女”一词的简历。

纠正了编程中的错误后,据说公司停止了对新打鱼游戏机的依赖,仅停止使用此工具来评估打鱼游戏机。使用该工具的编程团队也被解散。

这仅证明,即使机器和人工智能在使组织更轻松地完成任务并帮助节省时间和成本方面可以走很长的路要走,但也不能盲目依赖其决策和结果。