Meta开源其新的大羊驼2人工智能模型：它会助长滥用吗？

Meta没有对AI聊天机器人技术保密，而是决定打开闸门，基本上公开一种新的大型语言模型的计算机代码。

Meta将开源一种新的人工智能模型Llama 2，并将其免费用于研究和商业目的。在该行业被OpenAI的ChatGPT吸引之际，Meta希望企业家、初创公司和开发人员围绕其人工智能技术创建一个生态系统。

Meta首席执行官马克·扎克伯格写道：“开源推动了创新，因为它使更多的开发者能够使用新技术进行构建。”

“这将改变大型语言模型的市场格局，”他补充道。

目前还不清楚这项技术与ChatGPT相比如何。但Meta表示，大羊驼2比第一个大羊驼模型多训练了40%的数据，包括100多万个新的人类注释。因此，在涉及推理、编码、熟练程度和知识的各种基准测试中，Llama 2的表现略好一些。

这种开源方式可能会给OpenAI带来压力，该公司一直在向企业收取费用，让它们通过API使用自己的生成性人工智能技术。相比之下，扎克伯格计划让用户从公司网站下载骆驼2的源代码

尽管如此，这一消息还是引发了人们的疑问，即大羊驼2是否会落入坏人手中，最终助长诈骗和其他恶意行为。例如，当最初的骆驼模型在2月份向研究人员发布时，代码的副本被泄露并迅速被利用来创建

然而，Meta认为，开源的大羊驼2可以让这项技术变得更安全。

该公司写道：“开放对当今人工智能模型的访问，意味着一代开发人员和研究人员可以对它们进行压力测试，作为一个社区，快速识别和解决问题。”

Meta高管还告诉

此外，Meta表示，它一直在与Llama 2“红队”合作，以了解人们如何滥用这个大型语言模型并安装护栏作为回应。该公司称：“这些安全微调过程是迭代的；我们将继续通过微调和标杆对安全进行投资，并计划基于这些努力发布更新的微调机型。”

由于Llama 2是开源的，用户将能够修改它的代码。然而，Meta告诉PCMag，它在Llama的可接受使用政策中包含了语言，该政策表示，该公司可以打击被发现滥用人工智能模型的人。这可能包括启动法律程序或终止Meta与软件开发商之间的任何协议。