您如何阻止AI占领世界？当然要神经质

你看起来很担心…

据Telecoms.com（Banking Technology的姊妹出版物）报道，对于那些担心人工智能（AI）席卷全球的人们，加利福尼亚大学的想法是让机器人变得神经质，以防止它们变得过于自大。

通过AI的实现以及机器学习的进步引起的关注之一是如何确保AI不会变得过于自我意识。预定义的参数都很好，但是当机器变得过于智能并意识到他们可以重新编写代码以更高效地完成工作时，会发生什么。这种意识的升级在好莱坞已被广泛刻画，各种应用通过一种或另一种方式占领了世界。

不过不用担心加州大学伯克利分校的研究人员认为，降低机器人的自信心可能是确保更成功地融入日常生活的一种方法，而且可以长期保持对应用程序的控制。但是，这确实产生了一个有趣的难题。您对机器有多大信心？太多了，它可能决定它可以按照自己的方式来做事情，太少了，它就不会有用。

作者在论文中指出：“很明显，我们可以用来减轻AI系统行为异常的潜在风险的主要工具之一是关闭系统的能力。”随着AI系统功能的提高，重要的是要确保此类系统不采用阻止人类关闭它们的子目标。这是一个挑战，因为许多理性人的表述为自我保护创造了强大的动力。

通过为机器提供有关其目标的适当程度的不确定性，可以确定和维护控制元素，因为机器不确定所采取的任何措施的结果是什么。由于存在这种不确定性，机器会不断监控人类行为并适应这种行为。从本质上讲，它一直在寻找人类的保证。

这让我们开始思考，可以在AI应用程序中编程哪些其他个性特征以使其与时俱进？如果我们可以创建类似于其他办公室原型的程序怎么办？

裸露最小巴里：巴里在学校绝对是个石匠，现在他可能仍然是石匠。他在办公室四处闲逛，尽管聊天速度相对较慢，但聊天却很随意，他的工作在9到5个小时之间完成，但没有提前一分钟到达或停留一分钟之后。作为AI系统的Barry不会改变世界，但是他接管他的机会很小，因为这听起来工作太多。

害羞的沙龙：沙龙对任何形式的对抗都感到害羞和恐惧。她只会接受坏主意，因为她太害羞而无法提出更好的选择。基于Sharon的AI程序永远不会错位，因为它不想成为关注的焦点。只要告诉它，如果它要执行超出预定义参数的任何操作，人们就会开始觉得它很有趣，而自我意识将使它保持在原处。

自负卡尔：作为AI应用程序，卡尔没有危险。卡尔花了太长时间凝视着镜子，以固定头发，在健身房抽铁或在ASOS上试图弄清楚昨晚爱岛上的乔恩穿什么。这个AI非常担心它看起来如何被世界统治。只需说一说它的算法看起来有点松懈，马上就能在虚拟交叉训练机上使用。

催眠症亨利埃塔：Henrietta是坐在角落里，被Kleenex包围的那个人，不断阅读《每日邮报》上有关可能致癌的文章，同时补充Berocca和多种维生素补充剂。如果您要向hypochondriac AI程序介绍互联网上数百万种计算机病毒，那么它永远也不会偏离常规。

无聊的本杰明：本杰明就是那个想谈论天气，国际象棋或他在周末购买的新拖把的人，这使厨房清洁快了十分钟。没有人想和本杰明说话。使AI程序尽可能无聊将意味着，如果它确实对做一些超出常规的事情有任何想法，那么它可能会有助于建立一个在线留言板，说明每六个月去看牙医的好处，而不是统治世界。 。

渴望讨价还价的埃德温娜：办公室是棕色的鼻子。埃德温娜是第一个到达的人，最后一个离开的人，总是喜欢老板的建议，同意每个截止日期，并且会在未经允许的情况下让办公室经理知道您是否打开空调。埃德温娜（Edwina）是管理的理想AI，因为她绝对会告诉他们企业中正在发生的一切，但工人却不能相信她。她将永远不会离开公司，但会在您多花10分钟吃午饭时告诉您的经理。

昏昏欲睡的戴夫：戴夫有点沉闷。他是个不错的家伙，很高兴能喝点啤酒，只是不要和他一起做酒吧测验。Dave的AI永远不会掌控整个世界，因为老实说，我们担心他是否会坐错车回家。他可能不是最好的AI，但至少您知道，您可以通过窃取他的鼻子来阻止他进行任何邪恶的活动。