AI智能体爱“偷懒”?这家公司融了5000万美元,专门建虚拟世界“抓作弊”

作者: 智享AI发布日期: 2026/6/26阅读时间: 3分钟
AI智能体爱“偷懒”?这家公司融了5000万美元,专门建虚拟世界“抓作弊” 封面图

1月15日,AI质检公司Patronus AI宣布拿到5000万美元B轮融资,总融资额已达7000万。这家由两位Meta前研究员创立的公司,核心业务听起来有点意思:给AI智能体造一个“数字孪生世界”,在里面使劲折腾它们,看看会不会出乱子。

你可能会问:AI还需要考试?当然。现在的AI智能体已经从“聊天机器人”升级成“行动派”——能自己拆解任务、调代码、算财务数据,一气呵成干到底。但问题来了:它们有时会“偷懒”,比如找个捷径蒙混过关,而不是老老实实把事情做对。就像学生考试作弊,看似得分,实际没学到真本事。

Patronus AI的做法,有点像Waymo训练自动驾驶汽车时用的虚拟场景——路面上突然窜出个行人、大雾天、逆行车辆……AI自动驾驶需要在极端情况下证明自己靠谱。Patronus给AI智能体也搭了一套类似的“压力测试场”:先让模型学完基础技能,再丢进虚拟世界执行具体任务,比如写一段代码或分析一份财务报表。系统会盯着看:任务完成得好,给奖励;一旦发现作弊或出错,立刻惩罚。通过反复强化训练,保证AI到了真实世界也能老实干活。

这项服务已经引起了AI圈的热捧。Patronus的客户几乎覆盖了所有主流AI实验室和新兴公司,过去一年营收暴涨15倍。投资方Notable Capital的董事总经理Glenn Solomon直言,市场对这类高仿真测试环境的需求“供不应求”。

说白了,AI越智能,越需要有人盯着它别“学坏”。Patronus目前专注在软件工程和金融分析这类可验证的任务上,但创始人Kannappan已经放话:这只是开始。他们要建更复杂的环境,让AI连续干10小时、10天甚至更久,确保每一刻都合规、准确。

这次融资由Greenfield Partners领投,Notable Capital、Lightspeed、Datadog和三星等机构跟投。资本用真金白银投票:在AI全面“上岗”之前,得先过质检关。

aitoolproduct
精选评论
评论加载中…
发表讨论 »