5月28日，美国国会山上冒出一份让硅谷神经紧绷的法案。代表硅谷选区的民主党众议员罗·康纳准备提交《人类控制AI法案》，核心要求只有一句话：政府没建好安全护栏、监管机构没点头之前，AI模型不许自己给自己升级。
什么意思？就是说，一个AI系统不能偷偷修改自己的核心目标，不能悄悄换掉安全限制，更不能把“关机键”给拆了。用大白话讲，就是给AI套上一根绳子，绳子的另一头攥在人类手里。
康纳在接受CNBC采访时撂下一句狠话：“文明灭绝的风险是真实存在的。失控的安全隐患和滥用风险，两者都得认真看待。”这话不是科幻片台词，而是他推动这项法案的理由。
这份法案到底管什么？简单说，联邦政府要先立规矩，监管机构批准之后，企业才能推进前沿模型的自我迭代。在那之前，这条通道直接上锁。
为了盯住这件事，法案打算新设一个联邦机构，专门干三件事：制定AI安全监管规定、用许可制度审批模型训练与部署、对前沿模型开展独立审计。每一家前沿实验室还必须配独立审计人员，直接向这个新机构汇报。
新机构手里还要攥一份安全清单，全是硬要求：沙盒测试环境、测试环境与互联网物理隔离、紧急关停开关，以及防止模型逃出实验室后在网上自行运行的控制手段。连实验室用的高端芯片也要被纳入监管，得建立监测或管控机制。
出了事怎么办？法案在惩罚层面一点不含糊。如果部署的AI模型导致平民群体遭到毁灭，会被列为“危害人类罪”，追究刑事责任。公司内部人员如果私自关掉防护措施、紧急开关、日志记录或遏制系统，或者明知系统没授权还硬要上线，同样面临刑事处罚。企业想发布模型，还得先买一份覆盖面够广的责任保险。
康纳说，这是迄今提出的“最全面的AI安全立法”。有意思的是，法案的思路不是来自大公司高管的诉求，而是来自他跟多家独立非营利AI安全组织的交流。他直言：“我希望它成为范本，让AI安全界有发声渠道。他们一直被不公平地当成在谈科幻、没被真正重视……这场讨论该由安全界来主导，而不是前沿实验室的高管。”
这话点出了一个微妙的变化：过去几年，AI监管的调子基本由OpenAI、谷歌、微软这些前沿实验室定，他们一边呼吁监管，一边争取对自己有利的规则。现在，安全派想夺回方向盘。
当然，法案能不能通过还是未知数。但它释放的信号很清楚：AI跑得太快，有人想踩刹车了。而且这次踩刹车的理由不是“怕失业”“怕造假”，而是更根本的问题——人类还能不能控制自己造出来的东西。