拉斯维加斯–五角大楼的研发部门带着请求和奖励出现在这里的黑帽安全会议上:向我们展示如何使用人工智能来保护关键软件和基础设施,你就可以赢得近2000万美元的奖金。
美国国防高级研究计划局(DARPA)在今天上午开幕的主题演讲结束时意外亮相,揭开了AI网络挑战赛的面纱。
这个新的“AIxCC”项目的经理佩里·亚当斯上台表示,DARPA关注的不是人工智能的下行风险,而是其潜在的安全上行风险。
“当负责任地使用人工智能的成果时,它对保护我们的代码具有显著的潜力,”但她补充说,如果没有某种推力,人工智能的防御性应用,如自动扫描和修复软件漏洞,就不会发生:“我们需要一个强制功能。”
DARPA的目标是为这一项目提供为期两年的AIxCC计划,该计划将包括一个有资金支持的轨道(竞争对手必须在9月份之前提交提案,之后最多有7个人将获得该机构的资金)和一个开放轨道。
然后,DARPA将从两个赛道中挑选最多20支资格赛队伍,参加2024年8月在这里举行的DEF CON安全会议的半决赛,DARPA将向前五名选手每人奖励200万美元。在DEF Con 2025的最后一轮比赛中,该机构将选出前三名,并奖励额外的奖励:第一名获得400万美元,第二名获得300万美元,第三名获得150万美元。
亚当斯在DARPA的一份声明中说:“通过大规模自动防御关键软件,我们可以对全国和世界的网络安全产生最大影响。”该声明还吹捧了人工智能开发商Anthropic、谷歌、微软和OpenAI对该项目的支持,以及为开放源代码安全基金会的竞争对手提供指导,以认识到开放源代码软件在我们的数字基础设施中扮演的关键(如果经常是默默无闻的)作用。
DARPA对这个项目提出了很高的要求,但该机构有培育和资助突破性创新的历史。例如,2007年的城市挑战赛现在是自动驾驶汽车发展的关键事件。1969年,当它被称为高级研究计划局时,这家商店建立了一个名为ARPANET的分组交换网络原型,它产生了网络的技术基础,刚刚将这篇文章带到了你的设备屏幕上。
有话要说...