“知识”专访图灵奖得主约瑟夫·希发基思：AI不会超越人类，过度依赖才是最大挑战

今天，很高兴为大家分享来自DeepTech深科技的专访图灵奖得主约瑟夫·希发基思：AI不会超越人类，过度依赖才是最大挑战，如果您对专访图灵奖得主约瑟夫·希发基思：AI不会超越人类，过度依赖才是最大挑战感兴趣，请往下看。

来源：DeepTech深科技

实现能够达到人类水平人工智能（AI）是人们的愿景，近年来，随着投资的增多和技术的进步，AI 领域正在加速发展。但是，由于部分媒体和科技公司的过度宣传，让一些人以为只需要几年的时间就能实现通用人工智能。

也有一些专家表达出“未来必然由机器主宰”的预言，放大了新智能时代到来的兴奋和喧嚣，这会导致大多数人倾向于接受“人工智能革命是我们无法逃脱的宿命”。

对机器的过度依赖可能会导致异化的后果。例如，使用 ChatGPT 存在的风险在于，人们会对其过度依赖，而不再发展出人类智能所特有的关键技能。其风险在于，人们出于贪图舒适或者思维懒惰，并接受机器代替他们作出决定，从而使人类可能变为机器的附属品。

如今，人们生活在一个绝对和相对主义泛滥的混乱时代，因此如何通过清醒、知情以及理性地辩论，去思考 AI 革命带来的风险是关键所在。几十年来所经历的危机，使人们迫切需要一种个人主义哲学——以一种简单易懂的、非教条主义的方式，解释个人幸福、社会和平与进步的价值观和伦理。

为帮助理解知识的重要性和局限性，并深入探究理解的双重性，图灵奖得主、中国科学院外籍院士、法国工程院院士、欧洲科学院院士约瑟夫·希发基思（Joseph Sifakis）进行了深入调查。

近期，他将相关结果和心得撰写在《理解和改变世界》一书中，讨论了高效获取知识的方法、人工智能与人类思维的核心差异、走向真正的通用人工的途径、自主系统、以及人类意识自主性影响行为决策等。

通用人工智能还有多远？

目前，机器学习还不能完全做到自主执行任务和适应环境变化。希发基思表示，实际上，今天的 AI 与通用人工智能（Artificial General Intelligence，AGI）之间的差距，比一些媒体和大型科技公司所宣传的要大得多。

《牛津词典》中关于智能的定义为“学习、理解和逻辑思考事物的能力，这种能力可以把事情做好”。如今，人们对“智能”没有清晰的概念，并对于如何实现智能有很多困惑，这会导致无法发展出智能如何运作的理论。

而机器在某些领域表现出卓越的能力，例如其在游戏中的表现比人类更出色，能够执行对感官更加敏感的任务，比如 BERT 和 ChatGPT。然而，在状况感知、适应环境变化和创造性思维方面，机器却无法超越人类。

如今，弱 AI 提供了构建智能系统的要素，但人们并不具备综合这些要素的原理和技术。希发基思举例说道：“例如在建造桥梁和建筑物时，我们无法建立可靠的、能替代人类完成各种任务的智能系统。而自主系统正是通往 AGI 的道路上重要的里程碑之一。”

自主代理是一个系统，能够与环境持续互动,并实现既定的目标。实现自主行为的过程需要经历五个相互独立的功能，即环境感知、状态表示、目标管理、策略规划和自我学习。

前两个功能（环境感知和状态表示）用于实现对状况的理解，以了解环境中发生了什么是必要的。环境感知接收来自环境的感官信息（图像、信号），并通过区分物体以及它们可能关联的关系并对其进行分析。其一般通过神经网络实现，而神经网络是当前唯一能胜任这个目标的技术。

所感知到的信息被传输到状态表示函数中，这种函数的功能在于建立一个系统外部和内部环境的模型。该模型必须实时更新，以便尽可能地接近反应出的环境的动态状态，它通过结合其他两个功能（目标管理和策略规划）来进行决策。

另一个关键功能是自我学习，它能够对知识进行管理和更新，以提高对环境中的变化的预测性和适应性。

人类智能是否会变得越来越接近于“完美”？

希发基思认为，如何基于数据的知识与符号知识联系起来，从而实现某种理解，是 AI 领域未来最大的挑战。

基于具体数据的知识，人类拥有将感官信息与常识知识联系起来的独特能力，这是人类与 AI 最大的不同。例如，人类会很自然地识别部分积雪覆盖停车的标志，因为它可以将视觉信息与停车标志的概念模型及其特性联系起来。对比之下，神经网络如果想实现精确地识别出停车标志，就需要提前针对所有天气条件对其进行训练，这显然是一件更为复杂的任务。

当人们可以搭建出能可靠地替代人类执行任务的自主系统时，比如执行驾驶任务，就说明机器智能已经接近人类智能。即通过自主代理逐步替代人类，比如被物联网所设想的自动驾驶汽车、智能电网、智能工厂、智能农场、自主网络等。

这些系统是分布式的，通常是关键任务系统，通过处理知识展现“拓展智能”，可以动态地管理一组有着潜在矛盾的目标。它们必须去处理复杂和网络物理环境的不确定性。

希发基思表示，如今的人工智能只能提供最基本的服务，还不能使用大语言模型来可靠地驾驶汽车、组织智能工厂的生产或管理智能电网。

他指出，要充分利用人类与机器之间的互补性来加速知识的发展。人类在从高维数据中提取知识时，会受到认知复杂性的限制。然而，人们可以使用强大的抽象机制，比如归纳、隐喻、类比、创造性思维来开发符号知识。

为了研究复杂的现象，人们会做一些被可能被证明是不现实的简化。而机器能够通过从高维数据中创造知识来实现计算智能，但它们目前创造和应用符号知识的能力有限。

得益于超级计算机和 AI，人们可以创造出一种新型的知识，这些知识介于科学知识和隐性经验知识之间。通过这些知识人们可以建立“神经神谕（neural oracles）”，对物理、经济、社会等复杂现象进行预测。

希发基思表示，“这些知识完全由机器所发现，但不可能从概念上完全被理解。有了这种知识，我们或许就能克服理解世界的局限性。然而，在关键决策中使用这种知识时，我们应该停下来进行思考。”

其认为，人类正经历着一场阴险的反革命，非解释的知识不再发挥解放人类的作用，不再成为使社会进步的驱动力。希发基思指出，提高对人们正在经历的知识革命所产生的影响的认识是当务之急。要做到这一点，需要超越旧日的口号。

整体来看通过《理解和改变世界》这本书，读者们可以看到除了有形实体之外的无形实体的重要性，以及理解其发展和实施过程的必要。其能够说明源于信息学的新概念和新模式对于人类的帮助。并且，它展示了构成社会的所有结构到底是如何实施信息系统的，而信息系统的正常运作则取决于可靠知识的无缝和及时交流。

希发基思表示：“这本书能让读者通过认知的视角看待世界，并使他们以个人和公民的身份采取正确的行动。”

好了，关于专访图灵奖得主约瑟夫·希发基思：AI不会超越人类，过度依赖才是最大挑战就讲到这。