由Yann LeCun支持的法國AI新創公司ZML，正式發布免費推理伺服器ZML/LLMD，最大的亮點不是免費，而是它可以讓大型語言模型跨越不同晶片平台運行，包括NVIDIA、AMD、Google TPU、Apple Metal以及Intel Arc等多種硬體架構。
當整個AI產業都在討論誰擁有更大的模型時，ZML選擇瞄準另一個更核心的問題——如何讓AI推理擺脫硬體綁定。
AI競爭重心，正從訓練轉向推理
過去幾年，大模型競賽主要圍繞模型規模與訓練能力展開。
但隨著企業開始大量部署AI服務，真正消耗成本的，其實是模型每天持續運行所需的推理能力。
ZML創辦人Steeve Morin指出，相較於模型訓練，推理效率如今已成為企業更迫切需要解決的問題。然而，目前不少AI軟體仍高度依賴特定硬體平台，企業一旦完成部署，後續更換晶片或調整架構的成本相當高。
因此，市場開始尋找能夠跨平台運行的推理方案，而ZML正是希望切入這一需求。
一款免費產品，瞄準整個AI晶片市場
與一般推理框架不同，ZML/LLMD最大的特色在於支援多種AI晶片架構。
目前官方表示，該產品可運行於NVIDIA、AMD、Google TPU、Apple Metal及Intel Arc等平台，目標是在不同硬體上都維持最佳推理效能，部分情境甚至可能超越原生實作。
值得注意的是，ZML目前選擇免費發布產品。
對一家剛完成融資的新創而言，這並不是常見策略。
Morin表示，公司希望先觀察企業如何使用產品，再決定最適合的商業模式，而不是急於建立收費機制。
換句話說，ZML更希望先建立生態，再思考變現。
2000萬美元融資背後，透露哪些訊號？
除了產品本身，ZML背後的投資陣容同樣受到市場關注。
目前公司已完成約2000萬美元融資，投資方包括20VC、LocalGlobe、Kima Ventures，以及Hugging Face共同創辦人Clément Delangue、Julien Chaumond和Docker創辦人Solomon Hykes等知名投資人。
另一項值得注意的數據，是ZML目前團隊僅約20人。
在人數不多的情況下，公司選擇聚焦AI推理這一細分市場，而非全面投入模型開發，也反映出AI基礎設施市場正在出現更明確的專業分工。
推理市場正在升溫，真正競爭的是基礎設施
說實話，真正值得關注的，並不是又一家AI公司推出新產品。
而是AI推理正在逐漸成為新的競爭焦點。
近一年來，市場開始將注意力從模型能力，轉向部署成本、推理效率與能源消耗。
企業部署AI時，不一定需要最大的模型，但一定需要更低的成本與更高的運行效率。
因此，包括Baseten、Inferact、RadixArk等公司，都開始圍繞推理基礎設施展開競爭。
ZML則希望透過跨硬體相容能力，建立自己的差異化優勢。
Morin甚至透露，公司已開始與晶片製造商合作，共同探索新的硬體設計方向，希望從軟硬體協同層面提升AI推理效率。
AI硬體「去綁定」是否會成為下一個趨勢？
對企業而言，如果推理平台能真正做到跨晶片部署，就意味著未來可以依據成本、效能或能耗，自由選擇不同供應商，而不是被單一生態系統限制。
分析人士認為，這種能力可能有助於降低企業部署AI的門檻，也可能讓更多新興AI晶片公司獲得市場機會。
不過，目前ZML/LLMD剛剛發布，實際效能、企業採用情況以及市場接受度，仍有待後續驗證。
未來能否真正改變AI推理市場格局，仍需更多商業案例支持。
AI產業的競爭，或許正在悄悄改變方向。
模型仍然重要，但真正決定企業是否願意大規模部署AI的，很可能是推理效率、部署成本以及硬體自由度。
ZML此次推出免費推理伺服器，不只是新增一款工具，更代表AI基礎設施開始朝向更加開放的方向發展。
接下來，市場關注的不只是ZML能否吸引更多企業使用，更是這場AI推理生態之爭，是否會重新定義未來AI晶片市場的競爭規則。
FAQ
Q1：ZML/LLMD最大的特色是什麼？
ZML/LLMD最大的特色在於支援多種AI硬體平台，包括NVIDIA、AMD、Google TPU、Apple Metal及Intel Arc等晶片架構。企業可依自身需求選擇不同硬體部署大型語言模型，降低對單一供應商的依賴，提高AI推理的靈活性。
Q2：ZML目前為什麼選擇免費發布產品？
根據創辦人Steeve Morin表示，公司希望先了解企業的實際使用方式，再決定未來的商業模式。透過免費策略累積用戶與應用場景，可能有助於建立產品生態，而不是一開始就以收費作為主要目標。
Q3：ZML的推出會對AI產業帶來哪些影響？
市場普遍認為，若跨硬體推理方案能成熟落地，企業未來在部署AI時將擁有更多晶片選擇，不必受限於單一硬體生態。同時，也可能為更多AI晶片新創帶來市場機會，推動AI基礎設施朝向更開放、更具競爭力的方向發展。