政府向AI偏见发动调查

政府已建立了数据伦理和创新（CDEI）的中心，以调查算法决策中偏差的潜力。

人工智能（AI）算法使用数据模型来帮助人们做出决策，但是有冒为这些模型的任何人类偏差都会影响算法所提出的建议。

在伦敦最近的Gartner数据管理事件，汉娜弗里，电视演示者和讲师在UCL的高级空间意识中的城市数学中，警告说，人类不应将所有信任的信任放在算法中。

在她的世界演示文稿中，Fry描述了刑事司法服务的算法，在未成年性行为的情况下，推断出50岁的男子越来越不超过18岁的男人的危险如果约会一个15岁的女孩。

许多英国警察部队已经开始使用算法来喂养他们的决策。其中一种系统是达勒姆的危害评估风险工具，该工具被用来协助官员决定是否有资格基于未来违规风险赋予延期起诉。

CDEI希望确保使用AI技术的人们了解偏倚的潜力，并采取措施来解决此类偏见。它还旨在帮助保证更公平的决策，并在可能的情况下改进流程。

讨论中心开放，杰里米赖特表示：“技术是一种良好的力量，并继续改善人们的生活，但我们必须确保它以安全和安全的方式开发。”

CDEI椅子的Roger Taylor表示，该中心的重点是解决了数据驱动技术所带来的最大挑战和机遇。

“这些是复杂的问题，我们需要利用英国及以后存在的专业知识。如果我们得到这个权利，英国可以成为负责任创新的全球领导者，“他说。

“我们希望与组织合作，以便它们可以最大限度地提高数据驱动技术的好处，并使用它来确保他们所做的决定是公平的。作为第一步，我们将探索关键部门偏见的潜力，其中算法制造的决策可能对人们的生活产生了很大影响。“

CDEI计划探讨数据驱动技术的机会，以解决现有系统中偏差的潜力，并支持更公平的决策。这可能包括在现有招聘和金融服务系统中的工作或信贷市场中的那些增加机会。它表示将探讨推动数字经济创新的机会。

CDEI还计划调查数据如何通过个性化和微目标来塑造在线经验 - 例如，用户搜索产品，然后在浏览器中稍后出现了类似产品的广告。这是一个监管机构开始认识到。

随着计算机每周报道，爱尔兰数据保护委员会（DPC）有许多正在进行的调查，看看Web巨头如何使用个人数据和算法。

在其年度报告中，DPC表示“审查了LinkedIn在其依赖于行为分析和目标广告的情况下依赖于处理个人数据的合法奠定了他的GDPR义务。