警方未能在新技术上咨询公众

英国的警察部队未能充分地与众不同对人工智能（AI）的越来越多的使用，只有一支力量持有关于他们使用咨询，根据信息自由（FOI）竞选方式。

由皇家艺术，制造商和商业（RSA）进行的，该活动的调查结果于5月11日的一份报告发表，该报告专门针对警察部队如何与公众对其使用AI和自动化决策系统进行沟通（广告）。

一些警察系统使用这些技术，包括实时和追溯面部识别，预测性警务应用（其中数据用于识别犯罪活动风险较高的位置或辛勤速度），以及案例评估工具（哪种算法评估基于其案例假设的“可加工”）。

报告指出，“缺乏AI和广告缺乏公众参与”，缺乏“将有助于进一步距离使用这些广泛陌生的技术的决定”。

“除了允许这些服务的最终用户致力于他们的担忧，公众参与是对双方的教育过程，以及必要的认可，即问题不仅仅是在自然中运作的问题，”它说。

“这些技术及其无数的用途是外国人对公众的外国人 - 2018年，RSA研究发现，只有9％的公众意识到AI正在刑事司法中使用。”

在英格兰和威尔士的43军队中，他们只有7次确认他们正在使用或试验有关技术，只有一个 - 南威尔士警察 - 确认它与公众咨询过它的使用AI或广告。

虽然大都会警察局（MPS）后来在1月中旬回复，但是当时没有使用这些技术的政策决策，其运作推出面部识别在一周后宣布，揭示了警察部队的总数ai或广告到八个。

在向报告的作者的一份声明中，国会议员建议有计划进行公众磋商，尽管没有任何证据表明这是为了回应跟进FOI要求提供。

五部队（北约克郡，诺丁汉郡，萨塞克斯和沃里克郡）从未回复过请求的信息，而另外31部队响应他们没有使用任何AI或广告进行警务决策，与本办公室的公共声明相反。

“我们担心势力的相对不愿意通过信息流程自由详细说明他们使用回顾性面部识别。这是公共纪录的问题 - 本办事处指出，所有警察部队都在最近截至2019年9月，所有警察队将使用回顾性面部认可，“报告说。

“这两个项目集中在一起 - 如果不是安静的文化 - 那么警方信息办公室缺乏了解关于面部识别构成的内容 - 例如，他们可能会假设使用”面部识别“才涉及[生活面部识别]。“

它补充说，识别为部署或计划部署预测监管系统的四种力量都没有确认他们已与公众咨询，其中一个信息办公室告诉作者，即该公共意见没有必要，因为系统跟踪趋势而不是必需的。

但是，在2019年初，Campaign Group Liberty确定了14个使用或计划使用预测的警务应用程序的力量。

“我们怀疑，酒吧最近的策略变化，一些使用这些技术的人可能没有用有关他们的程序的信息回复。结果是否差异表明，预测政策是在衰落的情况下，或者是否是因为部队正在改变他们如何报告这种潜在的问题技术，很难确定，“报告说。

它补充说，在2019年11月开始制作FOI请求的作者在某些部队中遇到了“接受回应的重大困难”，并发现由于“国家安全”和“执法”而造影秘密监测努力特别困难当局使用的豁免。

“这不仅限于警方本身 - 而是，这是政府如何普遍未能适应新的和激进技术的吸收的例子。这项调查的一致主题是警察部队提供的信息不一致，缺乏关于他们如何使用AI的信息，“它说。

根据一个受访者，其中一位作者主要担忧是使用一种提高效率，而不是质量的手段，以提高效率，而不是质量，并降低成本，这是一个被引用作为开发系统的直接原因。

“这里的担忧是人工智能系统允许节省成本，这减少了不可衡量的警务效益的可用性，如关系和社区建设。它还存在危险，效率收益可能误导或产生意外后果，“它说。

“种族和性别偏见可以通过技术加剧，因为它们是基于历史数据，我们担心缺乏透明度可能会破坏通过同意的警务原则。”

2月2020年2月由安全智库举报坦克皇家联合服务学院（Rusi），该研究所（Rusi）呼吁国家指导关于使用警察算法“作为紧迫问题”，详细说明如何在最近使用这些数据密集型技术爆炸年。

它解释说，一个主要原因是英国正在进行的紧缩措施，该措施是由对报告采访的每位警察作为开发新数据能力的主要司机来描述。

“正如加夫大学最近的一份报告所述，这些发展都是英国公共部门使用算法和”数据得分“的更广泛趋势的一部分，以便在紧缩时代的决策和资源分配，”它说。

虽然RSA报告同意，需要清楚使用这些技术的准则，但它补充说，单独的指导是不够的，并且需要一种新的文化框架来改变排除公众与与之相关的决策相关的根深蒂固的态度。警察技术部署。

“采用新技术而没有充足的文化保障 - 特别是在审议和透明度 - 在整个社区凝聚力附近对未来储存相当大的问题，而且真正创新的技术摄取，”它说。

“审议方法可以从对受其决定影响的最终用户的预测政策和面部识别的机器提供一座桥梁。

“我们有兴趣探索如何进一步应用审议方法来处理本报告中所确定的赤字。我们注意到，参与是一个广泛的术语，当Perse，多学科团体聚集在一起并挑战这些技术周围的复杂社会，哲学和实际问题。“