LinkedIn: Investimenti in GPU Stabili per il Prossimo Anno Fiscale

LinkedIn ha annunciato che non prevede di aumentare in modo significativo la spesa per hardware AI nel prossimo anno fiscale, mantenendo sostanzialmente invariato l’investimento in GPU. La società ha dichiarato di aver raddoppiato l’efficienza delle GPU esistenti in soli sei mesi, grazie a miglioramenti nell’utilizzo delle risorse, nella distillazione dei modelli e nell’allocazione dei carichi di lavoro. Questo margine operativo sarà utilizzato per sviluppare nuove funzionalità, piuttosto che per l’acquisto di nuovo hardware.

Erran Berger, CTO dell’ingegneria, ha spiegato che l’obiettivo è mantenere stabile il footprint di calcolo, pur introducendo funzionalità più esigenti dal punto di vista computazionale. Questa strategia si colloca in un contesto in cui LinkedIn è controllata da Microsoft dal 2016, ma adotta un approccio differente rispetto all’espansione infrastrutturale del gruppo. Infatti, Microsoft ha registrato una spesa in conto capitale di 41 miliardi di dollari nell’ultimo trimestre, aggiungendo 31 data center in quel periodo e 88 nell’anno, con previsioni di oltre 50 miliardi nel trimestre corrente.

In passato, LinkedIn aveva avviato un progetto di migrazione su Azure, noto come Blueshift, ma questo è stato sospeso nel 2022. La società ha quindi deciso di investire in data center propri situati in Oregon, Texas e Virginia. Avere il controllo dell’intero stack tecnologico è considerato un fattore abilitante, poiché consente di monitorare e ottimizzare ogni livello, trattando l’efficienza come un investimento continuo.

Raghu Hiremagalur, CTO per l’infrastruttura, ha sottolineato che mantenere senza incremento storage e compute per un anno è «non una piccola impresa» e ha richiesto un notevole impegno. I miglioramenti ottenuti sono frutto di un approccio cumulativo, piuttosto che di una singola innovazione tecnologica. Ciò include un migliore utilizzo delle GPU, la riallocazione dei carichi di lavoro, la distillazione di modelli più grandi in versioni più piccole e una riprogettazione della divisione del lavoro tra training, inference, storage e progettazione dei sistemi.

Questa scelta è motivata anche dalla dinamica dei costi, poiché il costo per singola query era in aumento mentre la quantità di dati immagazzinati raddoppiava ogni anno, una tendenza che LinkedIn ha giudicato insostenibile. Sebbene la società non affermi di aver risolto definitivamente il problema, la sua strategia rappresenta un’alternativa alla crescita proporzionale dell’hardware, e la sua efficacia dipenderà dalla capacità del programma di efficienza di mantenersi nel tempo.