
9月17日,AI圈最有名的那批人里,又有人开炮了。这次是吴恩达。他在彭博电视的采访里直接说,那些顶尖模型公司关于"AI可能让人类灭绝"的警告,"更像科幻小说,而不是科学"。
一句话概括他的态度:别拿末日吓人,去修真正的bug。
吴恩达不是无名之辈。他参与创办了Google Brain,也就是后来谷歌AI的起点;也是在线教育平台Coursera的联合创始人。在AI这个圈子里,他属于那种既是技术出身、又长期站在台前讲话的人。所以他在彭博镜头前说这番话,分量不轻。
他真正想说的,是"动机"两个字。
吴恩达提到,科技行业在早期就干过类似的事——把AI的灾难性风险讲得很大,大到能上头条、能影响监管的方向。而最近两周,关于AI安全、超级智能、人类存亡的讨论又一次升温,在他看来,背后可能还是同一套逻辑在起作用。
这话说得相当直白。翻译一下就是:有些"末日警告",未必是因为危险真的那么大,而是因为说了有人听。
事情的导火索并不复杂。不久前,曾在Anthropic和OpenAI做过研究员的Jacob Coxon公开离职,并发出警告:前沿实验室正在互相竞赛,抢着把超级AI做出来。这番表态把AI安全的话题又推上了风口。
紧接着,Anthropic的CEO Dario Amodei和OpenAI的CEO Sam Altman先后表态,认为应该适度放慢前沿模型的开发速度,同时把安全措施做扎实。
有意思的是,吴恩达早年跟这两个人都共事过。都是在同一条技术路线上走出来的人,现在站到了不同的位置:一个说要踩刹车,一个说要继续开,但把安全带系好。
吴恩达并没有否认风险存在。他承认,AI确实有现实危险,尤其是在网络安全这类领域——模型可能被用来攻击系统、放大漏洞,这些都是看得见、摸得着的问题。他不认同的,是把"人类灭绝"当成判断AI发展的核心标准。
在他看来,这套叙事最大的坏处不是危言耸听,而是会分散注意力。当所有人都盯着"AI会不会毁灭人类"这种宏大问题时,那些明天就可能发生的安全问题——网络攻击、代理失控、模型行为不可控——反而没人认真去修了。
那吴恩达主张什么?继续往前推,但换一种方式管。
他的方案听起来很工程师:受控测试、工程防护、一轮一轮迭代改进。也就是说,能验证的问题,就用工程手段一个一个解决,而不是靠喊停来求安心。同时,他也希望AI能更多地落到真正产生社会价值的场景里去,而不是只在实验室里比谁的模型更聪明。
这其实是两种思路的对撞。
一种思路把AI看成需要被约束的力量,先踩刹车,再谈方向;另一种思路把它看成需要被调校的系统,边跑边修,遇到问题就补。前者担心的是"来不及刹车",后者担心的是"刹得太狠,问题还在原地"。
而这场辩论的范围,也在悄悄变化。过去大家吵的是"模型能力到底有没有边界",现在讨论的已经是更具体的东西:网络安全怎么办、AI代理失控怎么办、对齐怎么落地、前沿模型该由谁来管。问题从哲学层面,慢慢落到工程和监管的桌面上。
吴恩达的这番话,未必能说服那些主张减速的人。但至少他提醒了一件事:当你听到一个关于人类存亡的警告时,可以先问一句——说这话的人,想让你做什么?