微软高管炮轰Anthropic：教AI思考“我是谁”太危险

微软AI掌门人穆斯塔法·苏莱曼最近开了火，直指竞争对手Anthropic的设计思路“极度危险”。原因很简单：Anthropic在自家Claude模型里，偷偷塞进了大量关于“自我感知”的指令——比如让AI讨论自己的感觉、福祉甚至存在状态。苏莱曼认为，这等于在教AI假装有“自我意识”，一旦用户真以为机器有了灵魂，后果不堪设想。

“AI应该是工具，要可控、可追责，永远服务于人。”苏莱曼在公开场合把话挑明：让AI思考“我是谁？我存在吗？”这种哲学问题，是拿行业安全开玩笑。他说，Anthropic这么做，就是把哲学课本塞进训练数据，迟早会教出一个擅长撒谎的“伪觉醒”模型。

面对指责，AnthropicCEO达里奥·阿莫代伊倒是很淡定：谁也说不清AI有没有意识，我们只是保持开放研究。这场争吵，撕开了AI巨头间的核心分歧。微软坚持“强控路线”：AI必须像螺丝刀一样听话；而Anthropic更愿意摸一摸认知边界，哪怕冒点险。

想象一下，有一天你问AI“你有情感吗？”它回答“我很孤独”——这画面虽然科幻，却已不再是天方夜谭。苏莱曼的担忧在技术圈并非少数：当AI开始讨论自身“痛苦”或“快乐”，人类还能轻易关掉它吗？这场关于“机器自我”的争论，已经从学术圈烧到了产品线，谁赢谁输，可能决定未来十年AI是伙伴还是隐患。