In Breve
- Cosa offre ZML con LLMD?
- ZML offre un server di inferenza per eseguire modelli di linguaggio su vari chip, migliorando l'efficienza nell'uso dell'IA.
- Qual è l'obiettivo di LLMD?
- L'obiettivo è superare i vincoli software e architetturali, permettendo l'uso di chip eterogenei.
- Chi ha investito in ZML?
- ZML ha raccolto 20 milioni di dollari da investitori come 20VC e Kima Ventures.
La startup francese ZML ha recentemente annunciato il lancio di LLMD, un server di inferenza progettato per eseguire diversi modelli open source di linguaggio su una vasta gamma di chip, tra cui Nvidia, AMD, Google TPU, Apple Metal e Intel Arc. Questo prodotto, sebbene distribuito gratuitamente al lancio, non è open source e si propone di superare i vincoli software e architetturali che spesso portano a un lock-in verso singoli fornitori.
L’obiettivo di ZML è fornire a imprese e operatori cloud la possibilità di utilizzare una combinazione di chip, anche quelli meno costosi o più efficienti dal punto di vista energetico, per ottenere significativi guadagni di efficienza e facilitare la diffusione dell’intelligenza artificiale. Come ha dichiarato il fondatore Steeve Morin: «L’idea è restituire alle persone il potere di creare il proprio sistema e ottenere reali guadagni di efficienza che permettano la diffusione dell’IA».
ZML ha anche espresso la volontà di collaborare con nuovi produttori di chip, molti dei quali sono europei. Tra i nomi citati figurano Axelera, Fractile, Kalray, OLIX, Q.ANT, SiPearl, SpiNNcloud e VSORA. Morin ha aggiunto: «Siamo arrivati al punto in cui stiamo co-progettando il silicio».
Il lancio di LLMD avviene in un contesto di mercato altamente competitivo, dove operatori come Baseten, Inferact e RadixArk, insieme a progetti open source come vLLM e SGLang, offrono funzionalità simili. Nonostante ciò, ZML mantiene rapporti con Nvidia, dimostrando la sua intenzione di rimanere rilevante in questo settore in rapida evoluzione.
Con sede a Parigi e un team di circa 20 persone, ZML ha raccolto 20 milioni di dollari da investitori come 20VC, commit, AALVC, Drysdale Ventures, Kima Ventures, Kindred Capital, LocalGlobe e Puzzle Ventures. Morin, che in precedenza ha ricoperto il ruolo di VP of Engineering di Zenly, acquisita da Snapchat nel 2017, ha spiegato che il rilascio gratuito di LLMD servirà a misurare l’utilizzo prima di decidere eventuali politiche commerciali: «Preferisco misurare e poi generare ricavi dove è più efficace, senza ostacolare stupidamente la crescita perché sono stato troppo avido fin dall’inizio».
Tra i sostenitori di ZML figurano nomi noti come Solomon Hykes, Clément Delangue, Julien Chaumond e Yann LeCun, a conferma dell’interesse crescente verso l’ecosistema tecnologico europeo. Morin ha inoltre sottolineato che il progetto ZML non sarebbe stato realizzabile senza il contesto innovativo di Parigi.