Negli ultimi anni, la Cina ha dimostrato di non dipendere da nessuno per l’espansione delle proprie capacità hardware. Aziende come DeepSeek stanno trovando soluzioni innovative per aggirare le limitazioni dei componenti disponibili, sfruttando il potenziale del software. L’ultima novità di DeepSeek rappresenta un cambiamento radicale nel settore, con l’azienda che ha ottimizzato le prestazioni delle GPU Hopper H800 di NVIDIA grazie a un’innovativa gestione della memoria e delle risorse.
FlashMLA: il codice che supera i limiti hardware
Durante la sua “OpenSource Week“, DeepSeek ha presentato FlashMLA, un “decoding kernel” progettato specificamente per le GPU Hopper di NVIDIA. Questo strumento ha già dimostrato di poter portare miglioramenti straordinari, ridefinendo le prestazioni del settore senza la necessità di aggiornamenti hardware.
Secondo DeepSeek, FlashMLA è in grado di raggiungere 580 TFLOPS per la moltiplicazione di matrici in formato BF16, un valore circa otto volte superiore rispetto allo standard del settore. Inoltre, grazie a un utilizzo efficiente della memoria, il software permette di ottenere una larghezza di banda fino a 3000 GB/s, quasi il doppio del limite teorico delle H800. Tutto ciò è stato ottenuto esclusivamente attraverso l’ottimizzazione del codice.
Le tecnologie chiave di FlashMLA
FlashMLA implementa due innovazioni fondamentali per migliorare la gestione delle risorse:
- Compressione low-rank delle chiavi-valori – Questo sistema riduce i dati in porzioni più piccole, permettendo un’elaborazione più veloce e un consumo di memoria inferiore tra il 40% e il 60%.
- Sistema di paging basato su blocchi – La memoria viene allocata dinamicamente in base all’intensità del carico di lavoro, evitando una distribuzione fissa e rendendo l’elaborazione delle sequenze di lunghezza variabile molto più efficiente.
Un nuovo paradigma per il futuro dell’AI computing
L’approccio di DeepSeek dimostra come l’informatica AI non dipenda esclusivamente dall’hardware, ma possa essere ottimizzata attraverso strategie software avanzate. Sebbene FlashMLA sia attualmente progettato per le GPU Hopper, resta da vedere quali miglioramenti potrà offrire sulle più potenti H100.
Questa innovazione segna un punto di svolta, suggerendo che il futuro del calcolo AI potrebbe basarsi più sull’ingegneria del software che su continui aggiornamenti hardware.
Segui TechSporty su Telegram!
Non perderti le ultime news.
