Google DeepMind的杀戮开关研究可能会让A.I.恐惧

对于那么多人从电影中取出他们的提示，以上人工智能的未来看起来像是恐惧有一天有机器人霸主的人将被谷歌在做的研究振作起来。

谷歌深圳是谷歌2014年收购的伦敦人工智能公司，正在研究机器人和其他人的杀戮开关是什么。系统。

这个想法是，一天智能机器可能能够覆盖自己的关闭按钮。如果是这种情况，那么人类需要另一种方法来获得鞋面。

“如果代理人在人类监督下实时运行，则人类操作员可能需要按大红色按钮，以防止代理继续持续有害的行动序列 - 为代理或者损害对于环境，“研究人员在一篇文章中写道，发布在机器智能研究所网站上。“但是，如果学习代理......从长远地学习以避免这种中断，例如通过禁用红色按钮，这是一个不期望的结果。”

该论文由Laurent Orseau，一名谷歌深层思想的研究科学家，以及牛津大学的人类学院未来的研究员斯图尔特阿姆斯特朗。

研究人员正在寻找能够保留机器学习人类干预并阻止它们发生的方法。

对于研究人员来说，这是一个有趣的，并且可能是至关重要的，这是对人工智能围绕着受欢迎的恐惧。

许多人从2001年电影中获取他们的机器人将来：一个空间奥德赛，终结者，我，机器人和电视节目Battlestar Galactica，有些设想了机器负责的未来，人们是他们的奴隶。

这不是一张漂亮的照片，它有很多人，甚至高科技企业家埃龙麝香和着名的物理学家史蒂文·霍克宁，令人担心的是在未来越来越多地涉及人们的生活中等待人类。

霍金就说，“全面的人工智能发展可以拼写人类的结束。”

谷歌的杀戮开关研究不仅仅是为害怕的群众提供恐惧的技术，但也可能是非常定时的。

“将其作为A.I的架构讨论的时间是正确的。自主机器现在正在铺设，“停泊洞察力和战略的分析师Patrick Moorhead说。“这将是设计汽车，只有之后创​​造ABS和制动系统。杀死交换机需要设计成整个系统。否则，它对安全问题开放，甚至可能试图规避杀戮的机器。“

Moorhead拒绝说，如果他担心基于人工智能的机器的兴起，但他确实说他很高兴在一个大红色按钮上完成了工作。

“我们应该担心A.I.没有杀死交换机的系统，“他补充道。“这就像在没有刹车的情况下创造出子弹火车一样。”

独立行业分析师杰夫卡根表示，深度研究有意义。对于经常在思考在思考之前经常开发技术的行业，这是一个完整的努力。

“我们目前不是我们必须担心的那一点。接管，“卡根说。“然而，我们总是建立比我们想象的更快......我只是希望这些辉煌的科学家可以利用他们的脑力来保护我们而不是发明并最终威胁我们。”

还有一些一般性承认，谷歌涉及杀死切换力量是一件好事。

谷歌首先将首先进入A.I.，在其搜索引擎中使用该技术，即将到来的聊天和视频应用以及Google Assistant和Google Home设备。

据丹老年丹老年丹老年的分析师，这家公司对安全功能的说法，它只会有意义，也是加布里埃尔咨询集团的分析师。

“我认为，在机器人和A.I的沉浸区中，谷歌是引领这项研究的自然派对，”老人说。“有一个A.I.或者机器人试图“接管”是非常比今天的技术相当漂亮。但是，真的有多远？在未来五年内，我可以看到一家金融服务公司向A.I提供投资组合管理。我也可以看到一些将完全控制A.I的机械化设备。这就是为什么我们需要杀死交换机 - 以防其中一个东西离开轨道并威胁要造成一些伤害。“