I modder hanno pubblicato un exploit del firmware che rimuove il limite AI integrato da Nvidia nelle schede della serie RTX 20, 30 e 40, riferisce VideoCardz. Lo sblocco consente alla RTX 4090 di raggiungere il doppio del throughput tensoriale di picco dichiarato e alla RTX 3090 Ti di aumentare fino all’80% la velocità dei calcoli matriciali. Sulle GPU consumer, le specifiche Nvidia limitano i calcoli FP32 con accumulo alla metà della velocità FP16, un limite assente nelle schede professionali Turing e Ampere. Nei carichi di lavoro reali i miglioramenti sono più contenuti, mentre la velocità di generazione dei token dei chatbot resta simile perché è limitata dalla larghezza di banda della memoria.
La modifica consiste in una patch del firmware che gli utenti possono applicare autonomamente; Nvidia non ha rilasciato una risposta ufficiale.
Perché conta
Chi possiede una GPU supportata può ottenere un’inferenza AI sensibilmente più veloce senza acquistare nuovo hardware.
