拒当“杀人机器人”帮凶？这家AI公司硬气拒绝美军，反被政府拉黑

美国五角大楼原本打算跟人工智能公司Anthropic签个大单，让AI帮军队干活。结果合作黄了，还闹得挺大。为什么？因为Anthropic死活不肯拆掉自己系统里的“安全开关”。这家公司坚持：想用我的AI去搞国内大规模监控，或者造完全自主杀人的武器？门都没有。

军方直接翻脸：合作终止后，五角大楼扭头就找上了OpenAI、谷歌、英伟达、微软和亚马逊这些科技巨头，签了一堆合同。这下子，AI在战场上的应用让更多人揪心了。

更劲爆的是，美国政府紧接着把Anthropic列进了“供应链风险”黑名单——这在科技圈和政治圈炸了锅。一家公司因为不想当战争帮凶，结果被官方封杀，这操作够罕见。

这事惊动了国会。以加州参议员亚当·希夫为首的一帮民主党人紧急起草法案，最新那个叫《HALO法案》。法案写得明明白白：任何自主武器系统要开火，必须由人类指挥官最后拍板。换句话说，AI可以帮忙瞄准，但扣扳机的只能是活人。

法案还要求：每次军事行动都要详细记录AI的决策过程，方便事后查账。同时严禁把AI用在核武器部署和大规模监控上。议员们喊话：美军用AI可以，但绝不能脱缰，必须守住国家安全和隐私底线。

但专家泼了盆冷水：技术没问题，人有大问题。他们管这叫“自动化偏见”——士兵一看到AI给出的判断，很容易盲目相信，就像导航说右拐就右拐，哪怕前面是条河。再加上AI决策过程跟黑箱子似的，外人根本看不懂它怎么得出的结论。就算有监督员盯着，万一AI给出了错误指令，人类犹豫一秒就可能犯错，后果可能是致命的。

说白了，AI上战场，安全护栏只是第一道防线。真正考验的，是人在机器面前敢不敢说“不”。