AI推理芯片公司Inferact融资8亿美元，vLLM团队要颠覆AI推理

当大家都在关注AI大模型有多“大”的时候，一群人却在悄悄地让AI跑得更快、更省钱。他们就是开发了名叫vLLM的顶级AI模型“加速器”的团队。现在，这个团队正式成立了一家新公司，叫做Inferact，他们的目标是成为AI推理领域的“王者”。

这可不是小打小闹。Inferact一出手，就吸引了1.5亿美元的巨额投资，公司估值高达8亿美元！这笔钱来自一长串响当当的名字：顶级风投机构Andreessen Horowitz和光速创投领头，还有红杉资本、Altimeter Capital、红点创投和真格基金等，都是投资界的大佬。

你可能听说过vLLM。这个开源项目就像AI模型的“跑鞋”，让各种AI模型（500多种呢！）能在不同的硬件上（200多种加速器都支持！）跑得飞快。现在，Inferact要把vLLM做得更好，让AI推理的成本降下来，速度提上去，让AI的能力真正用起来。

想想看，训练一个大模型就像是闭门苦练内功，而让AI为你工作、回答你的问题，那就是实战出征了。现在，越来越多的AI应用需要AI“思考”和“行动”，这个推理过程消耗的计算力越来越惊人。谁能让AI推理又快又省，谁就能在商业竞争中占得先机。

Inferact的出现，就像是把AI行业的焦点从“怎么造出大模型”转移到了“怎么让大模型跑得好”。这说明，开源技术也能在商业上大有作为，而且，AI基础设施的竞争，已经进入了比拼速度和效率的“下半场”。