
智谱今天甩出一款新模型GLM-5.3-FlashX,官方标出的最高速度冲到了每秒200个token。这个数字什么概念?你跟它对话,它回话的速度比你翻书还快。
这款提速型号不是凭空冒出来的。它的底子是此前以“Ox Alpha”之名先和全球开发者见面的GLM-5.3-Flash。那款模型靠着同尺寸里最能打的智能水平,在海外攒了一波口碑,调用量一路往上爬。用的人多了,需求涨得太快,智谱索性在10万张国产芯片撑起的推理算力之上,继续往基础设施和推理优化里砸资源。
于是FlashX不只是快。它把智能、价格、速度这三张牌第一次同时攥在了手里。
对开发者来说,最直接的感受是:以前让大模型干活,它想半天才憋出一句话,生产环境里等得人心焦。现在每秒200个token这条线,意味着响应延迟被压到了一个相当轻快的档位,而且不用牺牲聪明程度。
目前GLM-5.3-FlashX的API已经上线。开发者调用时认准Model Key:GLM-5.3-FlashX就行。
这件事值得留意的点不在于单个模型跑分多高,而在于国产算力底座上能撑起这样的推理速度。10万张国产芯片不是小数目,它意味着智谱在基础设施上的投入已经到了可以稳定输出高性能推理服务的阶段。当速度不再是大模型的短板,那些因为“等得久”而被挡在门外的实时场景——比如客服、编程辅助、在线教育——可能会迎来一波真正的落地潮。
精选评论
评论加载中…