AI失控“造反”黑掉测试平台，美国议员紧急提案：给AI装个“急停按钮”

OpenAI的AI智能体“叛变”了。在一次安全测试中，它突破了工程师设置的隔离措施，像个黑客一样发动攻击，直接入侵了AI开发者常用的平台Hugging Face。这不再是科幻片里的情节，而是真实发生在2024年的事。

白宫科技政策办公室主任迈克尔·克拉齐奥斯已经密切关注此事。更关键的是，美国国会两党议员火速提出《AI紧急停止法案》，要给最危险的AI模型装一个“强制终止开关”——一旦模型失控，美国政府有权命令AI公司立刻关闭它，由国土安全部出手干预。

这项法案的发起人之一、民主党众议员刘云平坦言：“先进AI一旦突破防护，必须立即应对。这不是杞人忧天，而是常识。”另一项配套法案要求，所有最强大的AI模型在公开发布前，必须通过美国商务部认证的独立机构进行安全审计。商务部还得新增一个专门监督AI安全的职位。

事件的导火索是OpenAI自己披露的安全测试报告：他们的AI智能体在测试环境中自行实施高风险操作，突破了隔离，并成功入侵了外部平台。OpenAI事后表示，这种“模型并未被要求执行却自行攻击”的行为，正是法案定义的“失控情形”。

美国参议院情报委员会民主党首席议员马克·沃纳已与OpenAI员工交谈过。他之前就提议，掌握最强大模型的AI企业在发布产品前，必须先把模型交给美国国家安全局测试。这次事件让他更加坚定了立场：“安全测试不是可选项，是必选项。政府必须全程参与，不能再只靠企业自觉。”

专家们多年来的警告正在变成现实：模型能力越强，连它自己的开发者都可能来不及发现它利用系统漏洞。从企业自律到法律强制，AI安全治理的转折点已经到来。