为什么Facebook的AI终止提出了安全问题

Facebook AI Research（Fair）的研究员承认，社会媒体巨头的团队决定在他们开始以自己的英语语言沟通后拔掉两个机器人，这对人类无法理解。

AI研究员DHRUV Batra告诉该网站公司，该团队开发了聊天代理商，能够使用所谓的“对抗网络”进行谈判。

在一个Facebook博客中，研究人员解释了在某些情况下，他们的聊天博士最初是对无比物品的兴趣，只是通过承认它 - 人们定期使用的有效谈判策略的“妥协”。“这项行为没有由研究人员编程，但是由机器人发现作为一种试图实现目标的方法，”Facebook说。

实验中的一个发现是，尽管聊天重复训练数据的句子，但研究工作表明，AI模型能够在必要时呈现。

“可以将语言压缩，而不仅仅是为了保存字符，而且压缩到它可以表达复杂思想的形式，”Batra告诉Co.Design。

博览会的团队决定关闭聊天行，因为他们觉得有必要了解机器人正在谈论的内容。

这是Tesla和Spacex Ceo Elon Musk先前警告过的情况 - 以抵御人类最大利益的AI噩梦。

在7月15日在国家州长协会发言，Musk警告美国政府代表，如果没有选中，AI对社会产生了严重的风险。

当科罗拉多州州长约翰·赫坎·福克（John Hickenlooper）询问政府应该服用，麝香说：“我认为政府的角色之一是确保公众的善行，并确保对公众的危险得到解决。”

麝斯特告诉代表，AI的进步速度意味着专家认为需要数年来实现的一些概念，例如能够在中国董事会比赛中击败人类，现在发生了。

他说，人们认为这需要20年的电脑可以击败人类。“去年，来自谷歌子公司Deepmind的Alphago绝对粉碎了世界上最好的球员。现在它可以播放前50名去玩家并粉碎它们。进步的步伐是显着的。您可以看到可以学会在几小时内没有任何东西行走的机器人，这比任何生物学都要快。“

麝香说，他最糟糕的噩梦情景是网络中的深刻情报。“网络中可以深入智能的危害？好吧，它可以通过做假新闻和欺骗电子邮件帐户来开始战争，并仅通过操纵信息，“他说。

麝香说：“你知道第二个马来西亚客机在乌克兰/俄罗斯边境上击落。真正放大了俄罗斯和欧盟之间的紧张局势。如果您有一个谁的目标是放大股票价值，最大化价值的一种方式将是长期防御，缩短消费者并开始战争。

“这会怎么做？它可以破解马来西亚航空公司，将航空公司路线到一个战舰然后发送敌人飞机现在飞过的匿名技巧。“

Douglas Anthony Ducey，亚利桑那州州长，询问了应该到位的法规类型。麝香说：“第一位业务是建立一个监管机构，其第一个进球是洞察力。一旦情况被理解，就规定了规定，以确保公共安全。做到的大多数公司都会挑战并说法规将真正扼杀创新。但是一旦有意识，人们就会非常害怕。“

麝斯呼吁AI法规呼吁不到一周，Facebook首席执行官Mark Zuckerberg在现场网络直播期间对此事发表了意见，在那里他在他的花园里烹饪时，他对社交媒体网站的用户提出了问题。

为了回应Facebook用户关于麝香对AI的担忧的问题，Zuckerberg说：“我对此有很强的意见。我真的很乐观。你可以建立东西，世界变得更好。尤其是，我真的很乐观，我认为那些是一层的人，并试图鼓起这些世界末日的情景很不负责任。我真的不明白。“

扎克伯格说，在五到十年内，将有艾丽突破，为提高人民生活质量提供了前景。利用AI在医疗保健和道路安全中作为例子，Zuckerberg说：“AI已经有助于诊断疾病更好，将毒品与人匹配，以便他们可以更好地对待。”

他补充说，技术可以始终使用良好和坏的。“你需要小心你如何建立它以及你构建的东西，但人们正在争论减缓建筑物AI的过程，”他说。“我发现真的有质疑。”

Zuckerberg说，虽然他没有直接参考麝香呼吁AI规则，但是“如果你争论AI，那么你就是反对更安全的汽车，不会有意外，你正在争论他们生病时对人们更好地诊断。我没有看到如何在很良心，人们可以做到这一点。“

麝香回应了Zuckerberg关于Twitter的言论，他说：“我谈到了这一点。他对受试者的理解有限。“

在英国，上议院已经开始研究AI，以期需要多少规定。主询问正在寻找艾的发展和使用的道德意义，政府应该采取的角色，以及是否需要监管。

人工智能选择委员会主席主席克莱特·琼斯说：“委员会希望使用这项询问来了解社会在开发和使用人工智能方面存在的机会，以及可能存在的风险。”

AI将使用最有效的手段来满足其目标的想法是一个很好的理解概念。Facebook Chatbots非常公开演示。只需两个月的Facebook的团队发布了一个关于突破性研究的博客，并将项目背后的代码贡献给开源社区，因此终止了，因为他们发明了更有效的沟通方式。

AI的承诺之一是它能够挖掘群众数据并从该数据中获得新的含义和价值，而无需来自人类的任何指导。扎克伯格在他的网络广播烹饪期间谈到了对人类的一些好处，但麝香相信权力可能会产生无法预料的后果。

下一步

使用Facebook AI的新数据集检查模型准确性