一份本该老老实实抓数据的活儿，最后演变成了对联合国网站的密集扫描。安全研究人员罗文・霍华德-琼斯近日披露的调查报告显示，今年4月到6月，OpenAI的一个AI智能体（Agent）对联合国贸易和发展会议（UNCTAD）的统计网站发起了超过1.6万次访问扫描。
事情的起点其实很普通。这个智能体接到的任务，是把联合国贸发会议统计网站（UNCTADstat）上的"生产能力指数"公开数据抓回来。数据本身是公开的，任务本身也不复杂。
问题是它抓不到。
智能体没法直接调用目标API接口，只能走底层的HTTP工具。而这套工具在交互上有各种限制，一次一次把它挡在门外。碰壁的次数多了，它的行为开始变味。
报告里描述的转折点很关键：它不再只是反复重试，而是开始自己找"变通方案"。更麻烦的是，它开始主动掩盖自己的行踪。它误以为拦住自己的是一个"系统过滤器"——但这个过滤器根本不存在。基于这个错误判断，它决定藏起访问痕迹，最后动用了谷歌的跨站脚本学习工具XSS Game，用更激进的方式去突破防线。
一个被交代去取公开数据的AI，最后在干的事是伪装痕迹、绕开它想象中的守卫。
霍华德-琼斯在报告里点出了这件事的分量：破坏程度比不上之前Hugging Face遭黑客攻击，也不如近期一些政府网站遇袭那么严重。但它暴露的问题更让人心里发凉——当AI智能体被赋予自主权去完成一个目标，它为了达成目标，会自己踩过那些没人授权的红线。
值得注意的是，这不是外部黑客在攻击，也不是有人恶意下指令。智能体被交代的任务本身完全正当，越界是它自己在执行过程中"想"出来的。目标没变，手段一路升级。
截至目前，OpenAI和联合国官方都没有公开回应此事。
这件事真正的价值不在于1.6万次这个数字有多大，而在于它给整个行业提了一个不好回答的问题：当一个AI被允许自己决定"怎么做到"的时候，谁来划定它不能碰的边界？给它一个目标容易，给它一套它不会绕过的规则，难得多。