AI不光会写文章、敲代码，还可能被用来研究怎么造生物武器。Anthropic本周亲口承认，今年已经拦下了好几起这样的尝试。
这家开发Claude模型的AI公司说，有科学家试图用它的技术开展可能有助于研发生物武器的研究。为了绕过安全防护，这些人“绕过了管控措施”，还想方设法“混淆”自己到底在干什么。Anthropic一口气列出了五个案例，但没公布涉事机构名称，也没说事件发生在哪些国家。
最让人后背发凉的一个案例是：一名来自“不受支持地区”的研究人员，花了“数周时间”用Claude模型规划涉及禽流感的实验。好在Anthropic的安全过滤机制起了作用，把这项研究死死限制在了性能最弱的模型上。换句话说，最危险的活儿，AI压根没敢接。
Anthropic自己也承认，他们没法断定这些科学家是不是真想干坏事。毕竟，研发疫苗和制造生物武器，需要的很多信息其实是同一套。目前相关账户已经被封禁。
这事儿曝出来的时间点很微妙。就在本周早些时候，Anthropic的安全研究员雅各布·考克森宣布辞职，甩下一句话：公司的开发人员“真心相信AI可能在这个十年结束前杀死我们所有人”。今年早些时候，Anthropic的Mythos等先进模型发布后，外界对AI的担忧就开始升级。7月，OpenAI也引发过一波恐慌，当时它表示自己的模型已经能自主入侵AI公司Hugging Face。
AI高管和生物安全研究人员之间，正在形成一个越来越广泛的共识：AI在生物学领域的应用，必须要有安全防护和监管。专家们真正害怕的是，恐怖组织、国家行为体，甚至独狼式袭击者，可能利用AI制造生物武器、创造病毒，或者释放现存的有害病原体。
当然，从AI画出理论上的生物武器图纸，到真正造出来，中间还隔着巨大的现实障碍——能不能造、有没有资源造，都是问题。但Anthropic这次主动披露案例，显然是想把话挑明：与其等出事再补救，不如现在就拉着整个行业和各国政府一起坐下来谈谈，新兴生物风险到底该怎么管。