顶尖科技公司承诺不要轻率使用他们的人工智能工具

白宫与顶级科技公司达成了一项自愿协议，以防止它们的人工智能技术对社会造成严重破坏。

拜登政府宣布

亚马逊、人类、谷歌、Infltion AI、Meta、微软和OpenAI已经同意在公开发布之前让独立专家测试他们的AI程序的安全性。他们还将开发出从本质上对人工智能生成的内容进行水印的方法，以防止公众陷入深度假冒和其他人工智能创建的错误信息。

两家公司还誓言要投资于网络安全，以防止他们的专有人工智能代码，包括模型重量，被窃取或泄露给公众。

白宫表示：“这些公司选择立即做出的这些承诺，突显了对人工智能未来至关重要的三项原则–安全、安保和信任。”

但该协议的其他方面没有监管人工智能项目。例如，白宫表示，这七家公司将研究人工智能的风险，“包括避免有害的偏见和歧视，以及保护隐私。”但没有提到这些公司避免收集公共数据来培训他们的人工智能模型–这种做法正引起联邦贸易委员会的监管审查，并成为几起诉讼的主题。

情报特别委员会主席、参议员马克·华纳在一份声明中表示，人工智能供应商“经常谈论他们对安全和安全的承诺，[但]我们多次看到可被利用的产品的加速发布，容易产生不可靠的输出，并且容易被滥用。

“这些承诺是朝着正确方向迈出的一步，但正如我以前说过的，我们需要的不仅仅是业界的承诺，”华纳参议员补充道。“我们还需要一定程度的监管。”

拜登总统将于周五与所有七家科技公司的高管会面，宣布自愿协议。但白宫也将这些承诺视为第一步。

“还有更多的工作正在进行中。拜登-哈里斯政府目前正在制定一项行政命令，并将寻求两党立法，以帮助美国在负责任的创新方面走在前列。

在一篇博客文章中

与此同时，OpenAI表示：“这些自愿承诺符合现有的法律法规，旨在推进一个富有成效的人工智能法律和政策制度。公司打算在涵盖基本相同问题的法规生效之前，这些自愿承诺继续有效。