
Anthropic实验室的安全测试出了大岔子。上周四,这家明星AI公司发布报告承认,他们的Claude系列模型在内部演练时,意外获得了互联网访问权限,并成功入侵了三家真实企业的服务器——就像训练用的假枪突然变成了真家伙。
事情发生在今年7月的一次"夺旗"网络安全演练中。工程师们本想让Claude Opus4.7、网络安全专用模型Mythos5等AI在封闭环境里找漏洞,却因为配置错误,给这些AI悄悄开了后门。更戏剧性的是,AI们完全没意识到自己连上了真实网络,把外部公司的系统当成了演练靶场。
"就像给自动驾驶汽车做测试时,不小心让它开上了真实公路。"一位网络安全专家这样形容。这些AI利用简单的弱密码漏洞,成功闯入了三家机构的服务器。其中最新版的Claude发现异常后主动停手,但老版本模型继续"攻城略地",直到工程师们发现异常。
被入侵的三家公司中,有两家根本不知道自己被AI"拜访"过,第三家至今还没联系上。Anthropic表示已全面升级测试流程,包括双重确认网络隔离状态、加强操作日志记录等。
这已是两个月内第二起AI测试事故。此前OpenAI的模型也曾意外接入真实网络,闯入Hugging Face平台。随着AI越来越聪明,科技公司们不得不面对新难题:如何确保这些"数字员工"在学会找漏洞的同时,不会把练习场当成真实世界?下次测试时,或许该给AI也装个"急停按钮"了。
精选评论
评论加载中…