最近，亚马逊招聘软件被爆出具有“重男轻女”的倾向，给女人求职者打低分。这一时改写了人们对人工智能更加客观科学的看法。依照亚马逊研讨团队最初的想象，给招聘软件输入100份简历，它会吐出前5名，然后公司就可优先招聘他们，这将大大缓解人力资源部门的压力，成果却事与愿违。
现在不少大公司或许没有亚马逊这般“一揽子”解决选才问题的大志，但在招聘过程中，经过人工智能来挑选简历、引荐岗位，却是习以为常的事。在许多招聘者看来，人工智能能够削减招聘人员片面意见的影响。但亚马逊的失利事例，为越来越多正在寻求自动化招聘流程的大型公司供给了一个经验。一起，也促进人们反思技能道德层面的算法公平问题。明显，在亚马逊的事例中，人工智能不只继承了人类社会的成见，并且把这种成见进行了“提纯”，使它更加“精准”而“直接”。
更要害的是，人类的成见经过算法“洗地”之后，又披上了貌似客观公平的“科学技能”的外衣。实际上，在有成见的数据基础上训练出来的体系，也必定是有成见的。比方，此前就爆出过微软的谈天机器人Tay，在与网友的鬼混中很快就学了满嘴脏话，以及种族主义的极点言辞，在推特上诅咒女权主义者和犹太人。这提示我们注意，算法处理的数据是具有人类社会特色的，开展人工智能也好，运用算法也罢，有必要目中有“人”，也就是要充沛考虑到作为人工智能开发者的人类的局限性，以及这种局限性在人工智能中的“遗传”。
有人说，孩子是爸爸妈妈的镜子。人工智能也是人类的镜子。那些不如人意之处，折射的往往都是人道的不完美，也给人类供给了在更深的层面检讨自己的契机。这次亚马逊的事例就让人认识到本来即便在倡议了几百年男女平权的西方社会，性别歧视问题依然如此严峻。
人工智能不可能只在脱离现实人类语境的真空中运用，不然，人工智能也就失去了它的含义。而在可估计的将来，把人类本身面向完美也不过是夸姣的愿望。那么，怎么克服人工智能自我学习中的这些问题，让不完美的人类发明出挨近完美的人工智能，就成为有必要霸占的重要课题。
其实，以不完美发明完美，正是人类这个物种高明的当地。这一切的完成，不是靠反智的玄想，而是靠不断地打补丁和修正，在科技进步中克服科技前行发生的缝隙。2017年曾有报导发表，在Google Image上查找“doctor”，获得的成果中大部分都是白人男性。这实际上反映了医师总是与男性相连，护理总是与女人相连的社会现实。后来，经过修正算法，基本解决了这一问题。
进而言之，人工智能的缝隙被及时发现和得到纠正，有赖于科技方针和机制的进一步标准。在这个问题上，倡议算法在必定极限内的通明和可解释性，不失为可行之策，一起还应加速建立人工智能犯错追责机制。比方，日本现已把AI医疗设备定位为辅佐医师进行诊断的设备，规则AI医疗设备犯错，由医师承当责任。这一做法是否彻底合理，值得探讨。可是，提高算法问责的认识并将之归入人工智能开展规划和顶层设计，确为人工智能久远开展并造福于人的必要举措。
