AMD ha rivelato che l’acquisizione di Taalas vale circa 2,9 miliardi di dollari, tra contanti e azioni. L’operazione era stata annunciata ad agosto, ma finora il valore non era stato reso noto. Taalas è una startup con sede a Toronto che sviluppa chip progettati per eseguire un singolo modello di intelligenza artificiale: il modello viene «stampato» nel silicio, insieme alla memoria e alle componenti di calcolo.
Il primo chip di questo tipo, HC1, integra Llama 3.1 8B. Taalas afferma che può generare 17.000 token al secondo per utente, circa dieci volte la velocità dei concorrenti, usando un decimo dell’energia. I token sono le unità di testo che il modello elabora e produce. La società non specifica nel testo quali concorrenti abbia usato per il confronto, né le condizioni della misurazione: i numeri sono quindi dichiarazioni di Taalas, non un confronto indipendente documentato.
Un chip legato a un solo modello
Questa architettura ha un limite pratico: il modello non si può sostituire dopo la produzione del chip. Chi vuole eseguire un modello diverso deve usare un altro chip, progettato appositamente. Taalas dice che realizzarne uno richiede circa due mesi, ma non indica quanto costi né se questo tempo comprenda tutte le fasi necessarie per portarlo in uso.
La scelta mette a confronto flessibilità e prestazioni dichiarate. Un chip HC1 è costruito per Llama 3.1 8B, invece di poter essere riconfigurato per passare liberamente a un altro modello. Per chi gestisce servizi di IA, questo può rendere interessante la soluzione se velocità e consumi contano più della possibilità di cambiare modello; se le esigenze cambiano, però, occorre un nuovo chip. Il testo non chiarisce quando i prodotti di Taalas saranno disponibili per i clienti, né quali sistemi potranno usarli.
Perché conta
Per chi gestisce servizi basati su Llama 3.1 8B, un chip dedicato potrebbe offrire le prestazioni e i consumi dichiarati da Taalas. Ma il modello non si cambia: restano da chiarire costi, disponibilità e risultati verificati in modo indipendente.