白宫担心坏A.I.编码

白宫正在进行更多关于自动决策的到来的思考 - 超级智能或其他方式。

政府中没有人尖叫着“天网”，但这一周在两项行动中对我们的人工智能未来的担忧被勾勒出来了。

a.i的大风险。众所周知（机器人收购），但越直接的担忧是关于由严重编码和设计算法制成的微妙，或不太微妙的决策。

巴拉克奥巴马总统的政府本周发布了一份报告，审查了与设计不良的系统相关的问题，越来越多地被用于自动决策。

算法系统可以影响就业，教育，获得信贷 - 任何依赖于计算机辅助决策的事情。

事实上，政府辩称，算法可能对我们的生活，教育和获得信贷等领域有这么多的权力，即开发用于设计这些系统的道德框架可能是很重要的。同样可能需要对测试和审计来说是透明的。

第二次努力通过整个美国举办的一系列四个研讨会来看待我们的算法未来，以检查A.I。“对社会的影响。

“A.I.系统也可以以令人惊讶的方式行事”联邦贸易委员会的首席技术专家Ed Felten，在一篇白宫岗位上说。“我们越来越依赖A.I.建议决策并经营物理和虚拟机械 - 增加预测和控制复杂技术的表现如何的挑战。“

美国将产生A.I.在西雅图24日开始举办研讨会后报告。随后将在7月份在华盛顿州，匹兹堡和纽约市会议。

更近似的关注是算法系统，旨在因设计不良而无意中区分。

“难以检测的缺陷可能会增殖”，在本周的报告中警告白宫在美国CTO Megh Smith和其他官员发布的算法系统上。

史密斯表示，报告的重点是“T提供补救措施”，而是识别这些问题和迅速对话，研究 - 以及技术人员，学者，政策制定者和公民相似，“她在一个博客中说道邮政。

这些算法系统可以以多种方式搞砸。它们可以选择不当，使用不完整和不正确的数据，并且可能包括选择偏差。

系统还可以使用设计不良的匹配系统，或者可能无意中限制信息流。根据报告，如果两个因素经常发生两个因素，所以如果两个因素经常发生 - 所说，收入水平和特别是族裔 - “建立歧视阶段的两个因素 - ”这两个因素“之间必然是一个因果关系。