硅谷认为它可以给AI良心

我认为，因此我是AI

LinkedIns的创始人里德·霍夫曼（Reid Hoffman）是众多投资者银行之一，他们发起了一项新的倡议，以制定人工智能（AI）的道德规范和治理标准。

这项价值2700万美元的人工智能伦理与治理基金会（也以Omidyar Network为创始人）将不仅围绕工程师和公司，而且围绕社会科学家，伦理学家，哲学家，信仰领袖，经济学家，律师和政策制定者建立。在美国和国际上定义AI标准的意图。该小组将致力于解决诸如道德框架，道德价值观，责任制和社会影响等领域。

“人工智能代理将影响我们在地球上每个社会中的生活。奈特基金会主席阿尔伯托·伊巴尔古恩（AlbertoIbargüen）表示，技术和商业将实现这一目标。奈特基金会已为该计划投入了500万美元。“由于甚至算法都有父母，并且那些父母具有他们在算法后代中所灌输的价值，我们希望通过确保道德行为来影响结果，并且治理包括将受到影响的自然社区的利益。”

霍夫曼说：“迫切需要确保人工智能造福社会，并最大程度地减少伤害。”霍夫曼现在是风险投资公司Greylock Partners的合伙人。“人工智能的决策可以影响我们世界的许多方面，包括教育，交通，医疗保健，刑事司法和经济，但这些决策背后的数据和代码在很大程度上是看不见的。”

制定一系列定义道德和道德的标准的想法是必须解决的，并且已经在行业会议上提出。十月在IP Expo上，负责牛津大学人类未来研究所的Nick Bostrom指出，需要一套规则来定义AI的发展。

一切都是厄运和阴郁，但是博斯特罗姆问了一个非常基本的问题。当计算机的智能取代我们的计算机时，我们如何控制计算机？为此，开发人员将必须从本质上将意识和道德准则发展到算法中。这可能吗？

从远处看，编写算法很简单。它涉及编写许多严格的规则，这些规则定义了应用程序的行为和活动。考虑到几千年来哲学家一直在争论意识，道德和道德的基础和定义，而没有给出明确的答案，我们能否期望软件工程师在接下来的几年中能够做到这一点？道德和道德对每个人都意味着不同。这是一种个人解释，会产生灰色区域。您如何将灰色区域编程为像计算机算法一样科学的东西？

这本身就引出了另一个问题。谁应该决定道德的基本定义？美国在这里起了带头作用，它正确地招募了具有不同见解和背景的许多人，但是为什么要假设美国道德守则最适合定义这一重要领域呢？

我们并不是说任何国家在道德上都差不多，但每个国家对道德和道德的定义都不一样。有时只有一点点，有时会非常激进。以死刑为例，这对某些人来说是令人恐惧的，但对于某些人来说，这是完全合理的。这只是一个例子，但是妇女的权利，枪支管制，宗教在政治中的作用或广告标准又如何呢？

这些示例均与人工智能中道德和伦理的定义无关，但可以证明这一点。各种各样的意见可以证明是许多冲突的根源。

引入这样的团队是AI发展中非常重要的里程碑。人工智能是一种不仅可以重新定义技术行业，而且可以重新定义整个社会的潜力的技术。世界各地的政府不仅需要采用该技术，而且还需要决定如何对数百万将被裁员的人员进行再培训。人工智能的影响将是广泛的。如果尚未计划此类结果，则应该这样做。

尽管您的通讯员对此表示怀疑，但这个团队的价值不可低估。就是说，这确实引起了一系列新问题，需要非常明确和肯定地回答。这是一个有可能成为政治和文化雷区的领域；涉案人员必须尽其最大的外交才能避免令人不安的结果。