LinkedIn conferma stabilità negli investimenti in GPU per il prossimo anno fiscale

LinkedIn ha annunciato che non prevede di aumentare in modo significativo la spesa per hardware destinato all’intelligenza artificiale nel prossimo anno fiscale. L’investimento in GPU rimarrà sostanzialmente piatto, con l’impronta di calcolo e storage mantenuta all’incirca invariata.

Secondo la società, negli ultimi sei mesi è stata raddoppiata l’efficienza delle GPU esistenti grazie a miglioramenti nell’utilizzo delle stesse, nella distillazione dei modelli e nell’allocazione dei carichi di lavoro. LinkedIn intende utilizzare questo margine operativo per sviluppare nuove funzionalità, piuttosto che investire in nuovo hardware.

Erran Berger, CTO per l’ingegneria, ha sottolineato l’importanza di mantenere il footprint di calcolo stabile, mentre si introducono funzionalità più esigenti dal punto di vista computazionale. Questa strategia si colloca in un contesto in cui LinkedIn, controllata da Microsoft dal 2016, adotta un approccio differente rispetto alla massiccia espansione infrastrutturale del colosso tecnologico.

Infatti, Microsoft ha riportato una spesa di 41 miliardi di dollari in conto capitale nell’ultimo trimestre, con l’aggiunta di 31 nuovi data center, e prevede di investire oltre 50 miliardi nel trimestre corrente. In passato, LinkedIn aveva avviato un progetto di migrazione su Azure, noto come Blueshift, ma questo è stato sospeso nel 2022. La società ha quindi deciso di puntare su data center propri situati in Oregon, Texas e Virginia.

Avere il controllo dell’intero stack tecnologico è considerato un fattore abilitante, poiché consente di monitorare e ottimizzare ogni livello, trattando l’efficienza come un investimento continuo. Raghu Hiremagalur, CTO per l’infrastruttura, ha evidenziato che mantenere invariati storage e compute per un anno è «non una piccola impresa» e ha richiesto un notevole sforzo.

I miglioramenti ottenuti sono il risultato di un approccio cumulativo, piuttosto che di una singola innovazione tecnologica. Tra le misure adottate ci sono un migliore utilizzo delle GPU, la riallocazione dei carichi di lavoro, la distillazione di modelli più complessi in versioni più piccole e una riprogettazione della divisione del lavoro tra training, inference, storage e progettazione dei sistemi.

Questa scelta è anche motivata dalla crescente dinamica dei costi: il costo per singola query stava aumentando, mentre la quantità di dati immagazzinati raddoppiava ogni anno, una tendenza considerata insostenibile. LinkedIn non afferma di aver risolto definitivamente il problema, ma la sua strategia rappresenta un’alternativa alla tendenza prevalente di crescita proporzionale dell’hardware. La sostenibilità di questo approccio dipenderà dalla capacità del programma di efficienza di mantenersi nel tempo.