IT酋长认识到人工智能偏见的风险

副主席和IT经理副总监（CTO）的350名美国和英国CIO调查报告称，IT决策者正在越来越意识到人工智能（AI）偏见。

根据Datarobot的研究，近于美国和英国的近一半（42％）的AI专业人士表示，他们对AI偏见的“非常”关注。

Datarobot的AI BIAS 2019研究发现，大多数组织（71％）目前依靠AI执行最多19个业务功能。

“更多组织正在部署AI，因为他们认为这项技术是在当今商业环境中竞争的关键成功因素，”Datarobot的Trusted AI副总裁Ted Kwartler说。

接受调查的IT决策者的几乎五分之一表示，AI用于完成20至49个业务职能，10％表示他们使用AI完成超过50个业务功能。

DataRobot的研究发现，组织使用AI来执行各部门的功能，包括运营（76％），财务和会计（54％），营销（49％），销售（47％）和人力资源（35％）。

“我们已经观察到，AI成熟度广泛变化，许多组织仍然使用不值得信任的AI系统，”Kwartler补充道。

受调查的IT高管的最大AI偏见涉及包括“损害品牌声誉”和“客户信任损失”。

AI战略副主席科林牧师表示：“虽然许多组织已经开始采取合适的步骤来缓解AI偏见 - 例如远离黑匣子系统并建立内部AI指南 - 赢得企业和消费者的信任。

“每个企业都必须使AI偏见教育成为优先事项，因此他们可以在其AI系统中实施关键策略，这将有助于防止其发生。”

受访者表示，他们面临开发无偏见的AI算法的挑战，确定培训AI模型的数据，并了解输入数据如何涉及AI决策。

调查发现，65％的IT决策者正在使用工具来探索为什么AI造成负面决策。近三分之二表示，他们还使用工具来检查哪些输入数据对AI决策具有最大的影响。刚刚超过一半表示他们使用Word云来查看文本输入与AI决定相关的。

该调查报告称，美国94％的IT领导人和86％的英国IT领导人计划在未来12个月内投入更多地投资AI偏见预防举措。

为提升AI偏见预防努力，调查的59％的IT决策者表示，他们计划投资更复杂的白盒系统，其中AI决定是可解释的。超过一半（54％）表示，他们将聘请内部人员来管理AI信任，48％表示他们打算招募第三方公司来监督AI信任。

该调查还报告说，85％的IT领导人参加了调查，认为AI监管将有助于更好地定义构成AI偏差以及如何防止。