人类倾向于做出可疑的决定。我们有偏见,受情绪反应驱动,预测能力差,并且难以一次考虑多个数据点。这使人工智能具有超越人类的决策优势,不仅可以使我们变得更聪明,而且可以使我们保持公正。问题是,人工智能从人类行为(借助显式领域知识的帮助)生成的数据中学习,因此模仿了我们的偏见。这就导致了反映我们种族主义,性别歧视和其他偏见的算法。许多组织(“ Diversity.ai”就是一个例子)专注于发现和消除人为偏见。这项工作是必要的,我赞扬这种宝贵的努力。
消除AI偏见的一种方法是包容性聘用。建立能够在种族,性别,性取向,年龄,经济状况等方面实现多样性的AI团队。我认为如果这样做,您将获得更好的AI,因为您的团队将更善于发现偏见,不同的背景将推动更多的创新思维,而更多的多样化的团队将提高您在整个企业范围内扩展解决方案的能力。
多元化的团队更擅长避免编程偏见,因为他们擅长预测潜在问题。例如,医疗保健提供者最近使用了为大型保险公司创建的算法引导急需治疗的患者实施能够为他们提供额外护理的计划。问题在于,该算法的护理决策基于患者过去寻求医疗服务的频率,这有利于获得更好保险,更多时间,更多金钱等的患者。这一偏爱的患者群体中,白人比例过高。该算法未能为病情较重但时间和金钱较少的患者推荐额外的护理,其中包括大量的黑人患者。这造成了意外的种族分类,其中白人患者比黑人患者获得更好的护理。我们不知道是哪家公司创造了这项技术,但我想这不是一支多元化的团队。黑人团队成员和背景较不富裕的人可能在发布这种偏见之前就已经看到了这种偏见的可能性。
思想的多样性也推动了创造性思维。2006年,Netflix 宣布参加竞赛并向团队提供了100万美元的大奖,这可能会为其成功构建出如今著名的推荐引擎原型。获胜的团队是BellKor的实用混乱团队。他们是如何做到的呢?首先,他们与来自150个国家/地区的20,000个其他团队进行了多轮比赛。然后,在比赛的后期阶段,团队开始相互融合。获胜的团队由三支团队组成:贝尔科尔,务实理论和BigChaos。准确性,组合模型的能力以及从人类行为中获得洞察力的能力,对于实现获胜的原型都是至关重要的,每个团队都具有这些关键优势之一。这清楚地表明,思想的多样性可以带来卓越的结果。具有不同背景的团队成员带来不同的想法 项目,这将推动卓越的人工智能。
最后,部署和扩展AI不仅需要技术知识。设计直观界面,与用户和领导者协作,交流变更以及对用户具有同理心的能力是成功扩展AI的关键素质。对最终用户的同理心是诸如培训,传达积极影响的潜力等要素的关键。各职能部门(IT,数据科学,业务)之间的协作和沟通对于确保采用AI解决方案也至关重要。研究表明女性可能比男性表现更好这些技能。团队成员具有情绪智力,无论是女性,男性还是非二进制的,这都是关键。至少,开发AI的团队应该与采用AI的人相似。一支以白人或男性为主的团队可能很难与不那么统一的更广泛的组织建立联系。
我们可以而且必须做更多的事情来增强AI开发中的团队多样性。我致力于提高团队的多样性,而我的旅程才刚刚开始。当然,我们不能停止雇用各种各样的人。我们还需要建立一种反种族主义文化,对无意识偏见的意识以及持续的对话和教育,您应该敦促您的人力资源团队继续努力,如果还没有的话。我知道很难找到数据科学家,而且我并不建议组建这样的团队会很容易。但这是值得的投资,即使这意味着您正在培养人才或重新训练团队成员的技能。您可能无法下定决心并为下一个AI项目雇用一支多元化的团队,但是如果您希望您的团队打造出更聪明,更好,危害更少的AI,则尽一切努力来建立一支多元化的团队。
-
AI
+关注
关注
87文章
30805浏览量
268948 -
人工智能
+关注
关注
1791文章
47229浏览量
238343
发布评论请先 登录
相关推荐
评论