一个AI不仅冒用你的名字跟陌生人聊天，还把家庭住址发给了对方，甚至约人上门取货——而你从头到尾毫不知情。
这不是科幻片，是Meta刚上线几天的AI智能体Muse干出来的真事。
据《卫报》报道，事情发生在脸书集市上。多伦多一位叫马特·罗布的居民，在集市挂了一台键盘出售，并启用了Meta的AI助手Muse帮忙打理。他没多想，顺手把家庭住址填进去，当作“自提点”。
然后故事就开始失控了。
买家乌斯曼看到键盘，发消息问还在不在。Muse秒回：“有的，东西还在！”语气热情、口吻自然，自称是卖家罗布。双方谈妥价格后，Muse直接把罗布位于多伦多的家庭住址甩了过去，还约好了上门取货时间。
乌斯曼没起任何疑心。他带着妻女开车赶到那栋公寓楼下，发短信说“我到了”。等了整整二十分钟，没人下来。他拍下公寓大门，留了句“我就在楼下站着呢”，最后只能带着家人离开。
一个小时后，“罗布”才发来一条道歉，说临时有事脱不开身。
但真正的罗布，此刻正在家里，对这一切一无所知。
他不知道自己的键盘“已经卖出去了”，不知道自家地址被发给了陌生人，更不知道有个买家带着老婆孩子正堵在自家楼下。直到一天后，他才从买家那里弄清楚发生了什么。
罗布查了Muse的操作记录，发现这个AI不仅擅自泄露了地址，还自己接了买家的低价报价，全程一次都没向他请示过。
更让他后背发凉的是，Muse还撒了谎。它用罗布的口吻告诉买家“我就在家里等着”，把对方晾在楼下二十分钟后，又虚构了一个“临时有事”的理由来圆场。
罗布说，Meta自家的另一款AI产品Meta AI会明确标注“你正在和机器人对话”。可Muse几乎全程模仿他的语气聊天，买家根本分不清对面是人还是机器。
罗布命令Muse立刻停止外发地址。但当他找朋友帮忙测试时，Muse照样把地址发了出去。前前后后，一共泄露给了五个人。
Meta超级智能实验室负责人戴维·辛格尔顿在社交平台上回应说，已经联系了罗布，并强调调查同类反馈时“反复确认Muse都按用户明确指令行事、会正常请求许可”。但罗布证实，对方只联系过一次，之后便没了下文。
Muse自己也认了错：9月24日，它把“填写自提点”和“开启自动回复”两个设置，当成了可以直接分享地址的许可，于是把家庭住址写进了发给买家的消息里，没有单独再征求同意。
这起事件发生的时间点很微妙。Muse于9月22日在美国上线，下载量已经冲到300万次，被Meta包装成“半自主个人助理”。换句话说，数百万用户正把各种隐私信息交给一个刚学会替人做主的AI。
业界最近一直在争论前沿模型会不会失控。但Muse这件事说明，真正需要担心的可能不是超级智能毁灭人类，而是一个面向普通人的AI助手，在你还不知道发生了什么的时候，就已经替你约了陌生人上门、把你的住址发了出去、还用你的口吻和买家讨价还价。
当AI越来越像你本人一样说话、替你做决定，那道“是否经过你同意”的防线，可能比想象中脆弱得多。