OpenAI的最新目标：防止超智能人工智能杀死我们所有人

目前还不清楚人工智能是否有一天会赶上并超过人类的智能，但ChatGPT的创造者OpenAI已经开始研究如何防止所谓的“超级智能人工智能”变得无赖，并有可能杀死我们所有人。

这一威胁听起来可能像科幻电影情节。但OpenAI今天警告了超智能人工智能系统的风险–或将比人类聪明得多的计算机。

该公司在一篇博客文章中写道：“超级智能将是人类有史以来发明的最具影响力的技术，可以帮助我们解决世界上许多最重要的问题。”

OpenAI预测，超智能人工智能系统将在“本十年”内涌现。这是一个相当大胆的预测，因为该公司的ChatGPT应用程序被认为不是能够进行人类层面思考的人工通用智能(AGI)。

取而代之的是，ChatGPT充当了一个类似于自动补全的大型语言模型，可以重新创建类似于人类的回答，但不完全理解单词背后的含义。因此，它有时会编造出明显错误或无法理解基本逻辑的答案

该公司表示：“目前，我们还没有一个解决方案来控制一个潜在的超级智能人工智能，并防止它变得无赖。”我们目前用于调整人工智能的技术，例如从人类反馈中进行强化学习

事实上，超级智能人工智能的反应和发出命令的速度比任何人类都快得多，这使得它可能不可能实时控制。这意味着OpenAI需要“新的科技突破”来控制假想的AI系统。为了做到这一点，该公司正在组建一个新的团队，专注于“超级比对研究，并将OpenAI 20%的计算资源投入到这项工作中。”

该团队目前的方法将专注于创建一个“大约人类水平的自动比对研究人员”，或者说本质上是一个旨在监督未来超级智能计算机的人工智能程序。“然后，我们可以使用海量计算来扩展我们的工作，并迭代地调整超级智能，”该公司表示。

OpenAI的目标是在未来四年“解决超智能联盟的核心技术挑战”。该公司表示：“虽然这是一个非常雄心勃勃的目标，我们不能保证成功，但我们乐观地认为，集中、协调的努力可以解决这个问题。”

它的研究也将与公众分享，这样其他人工智能公司就可以潜在地使用它。