你能想象吗?一个只有20个人的法国团队,做出了一款软件,能让开源AI模型跑在任何芯片上——英伟达的、AMD的、谷歌TPU、苹果Metal、英特尔Arc通吃。
这家公司叫ZML,刚发布了新产品ZML/LLMD,一个LLM推理服务器。创始人Steeve Morin说,他们的野心是打破壁垒,让不同的芯片都能以最大速度跑AI任务,有时候甚至比原生还快。
这款产品的背景是:AI推理的重要性正在超过模型训练,但现实很割裂——软件和架构的障碍导致厂商锁定,用户被绑死在某一家的芯片上。ZML想解决这个问题,让企业灵活混用不同芯片,降成本、降能耗。
这可能改变游戏规则。英伟达的垄断还没结束,但挑战者已经从四面八方冒出来了。
目前AI推理赛道已经很卷:Baseten估值130亿美元,Inferact来自开源项目vLLM团队,RadixArk背靠SGLang。ZML凭什么搅局?
几个关键点:
(1) 20人团队,巴黎背景,创始人曾任Zenly工程VP(Snapchat 2017年以九位数收购)
(2) 拿到2000万美元融资,投资方包括20VC、Kima Ventures等
(3) 获得图灵奖得主Yann LeCun背书
(4) ZML/LLMD目前免费,目标是先看用户量再考虑收费模式
(5) 已经和多家欧洲AI芯片厂商合作:Axelera、Fractile、Kalray、SiPearl等
Morin说了一句大实话:"我已经到达和芯片厂商共同设计的阶段了。"这句话背后是AI基础设施的一场新战争——不再是谁的芯片最强,而是谁能打通所有芯片。
对中小企业来说,这可能是好消息:以后跑AI不用非得买贵的芯片了。