美国加州州长加文·纽森周五签署一项行政命令 ，旨在应对人工智能(AI)技术发展可能带来的潜在风险
，并研究包括要求AI企业为最先进模型开发“紧急关闭开关 ”在内的一系列监管方案。

　　这一行政令出台之际，纽森本周早些时候曾表示 ，他正在考虑针对AI安全问题采取进一步行动，包括可能召开特别立法会议
，以应对近期因AI研究人员警告该技术可能对人类构成“生存风险”的担忧 。

　　纽森表示，他采取行政行动的另一个原因是联邦政府迟迟未能采取措施
。此前 ，美国总统特朗普曾将有关AI风险的担忧称为“一场骗局”
，并表示AI所需的唯一护栏就是他这样高智商的总统。

　　到了周五，纽森再次敦促特朗普政府和美国国会采纳加州的AI监管框架 ，或者至少将加州现有法规作为联邦AI监管规则的最低标准 。

　　纽森强调：“联邦政府在建立任何形式的有效AI监督机制和问责体系方面彻底失职
，这应该让每一位美国人感到警惕，尤其是在AI企业首席执行官们自己都在呼吁监管的情况下。”

　　他进一步说道：“我们不会坐等事态发展 ，我们将加快推进建立实质性且负责任的AI监管体系
，不能等到一切为时已晚
。我们会以审慎的方式推进，但也必须保持紧迫速度 ，因为其中的风险太高
，不能继续等待或拖延。 ”

　　纽森签署的这项行政命令将推动加快实施本月通过的两项加州法案——SB 813和AB 1405 。这两项法案涉及规范外部机构如何对AI程序进行安全评估
。

　　此外，该行政令还将召集专家团队 ，并要求其在两个月内向加州提交一份指导方案，研究如何进一步强化现有AI安全和网络安全法律。

　　专家组将考虑的一项方案
，是更新相关法案中对“关键安全事件
”的定义，将模型失控等情况纳入监管范围 。例如 ，OpenAI的一款模型曾被曝入侵Hugging Face平台的事件
，就可能被纳入此类安全事件
。

　　另一项讨论中的措施，是针对前沿AI模型推出“紧急关闭开关”强制要求。类似提案此前曾在美国国会提出 ，但已在参议院层面受阻 。

　　不过
，科技行业仍有部分人士反对设置“关闭开关 ”，认为从技术角度而言 ，这一方案并不可行
。

　　人工智能公司Anthropic首席执行官Dario Amodei此前曾因担忧AI带来的生存风险
，呼吁放缓AI发展。他周一表示，虽然“关闭开关
”可能是一个好主意 ，但它并不是解决问题的“万能方案” 。

　　据悉
，纽森的加州州长任期将于2027年1月4日结束，近来 他尚未正式宣布参加总统竞选 ，但此前曾表示正在考虑这一可能性
。

（文章来源：财联社）