加州加入人工智能监管狂潮

在ChatGPT首次亮相近一年后，监管机构正在权衡如何最好地控制生成性人工智能。最新的尝试来自加利福尼亚州州长加文·纽瑟姆，他本周签署了一项行政命令，指示各机构研究人工智能在该州的使用。

“这是一项潜在的变革性技术–可与互联网的出现相提并论–我们只是触及了理解GenAI能力的皮毛，”州长纽瑟姆说。“我们认识到这些工具带来的潜在好处和风险。”

纽瑟姆呼吁各机构研究全州人工智能的发展、使用和风险，并制定一个在州政府内部评估和部署人工智能的流程。

首先，包括政府运营机构和加州技术部在内的几个组织有60天的时间向州长起草一份报告，审查在该州部署生成性人工智能工具的最重要和潜在有益的用例。

“该报告还应解释对个人、社区以及政府和州政府工作人员的潜在风险，重点是高风险的用例，”EO说。

这包括“来自不良行为者和缺乏足够保护的政府系统的风险，意外或紧急影响，以及对民主和法律进程、公共卫生和安全以及经济的潜在风险。”

到2024年3月，州网络安全官员还必须分析生成性人工智能可能给加州的关键能源基础设施带来的威胁和漏洞，“包括那些可能导致大规模伤亡事件和环境紧急情况的威胁和漏洞”，并拿出一种方法来阻止这种情况发生。

在EO中的其他六项条款中，有一项是呼吁与加州大学伯克利分校和斯坦福大学建立正式的合作伙伴关系，以进一步研究产生式人工智能将如何影响加州。研讨会计划在2024年年中举行。