4B小模型吊打GPT-5.6？文档搜索成本直降94倍的秘密

两家科技公司刚刚用一部手机的价格，造出了堪比超级计算机的文档搜索能力。Neon和Castform联手训练的4B参数小模型，在精准查找文件的任务中不仅追平GPT-5.6Sol，还以0.0009美元的超低成本创造了新纪录——这相当于用坐公交的钱享受了专车服务。

传统文档搜索就像在图书馆里按书脊颜色找书，AI先把所有资料变成数字编码（向量），再匹配相似内容。但最新方法让AI变身侦探：接到问题后先拆解线索，自主决定搜索关键词，筛选有用结果，再发起下一轮追问，直到拼出完整答案。这种"智能体搜索"能解决复杂问题，但每次调用大模型就像租用超级计算机，GPT-5.6Sol搜索10秒就要花0.03美元（约两毛钱）。

Neon提供文档库，Castform则训练AI侦探的"办案直觉"。他们用游戏闯关式训练：AI每完成一次搜索，系统就根据"答案是否正确""是否引用关键段落"等维度打分，分数直接反馈给AI改进策略。最终这个小模型在专业测评中拿到1.447分，超越GPT-5.6Sol的1.369分。

真正的颠覆在成本。这个小模型单次搜索成本不到0.001美元，比GPT-5.6Sol便宜94倍。这意味着企业用原来1%的预算就能部署智能文档系统，就像把燃油跑车换成电动自行车，不仅省油还能跑得更远。当AI应用进入"拼成本"时代，小模型+新算法的组合可能改写整个行业的游戏规则。