Oossa

Exa sänker kostnaden för dokumentinbäddning med 47 % på AWS-chip

Exa uppger att förändringar i programvara och kärnor ökade genomströmningen för dokumentinbäddning på AWS Inferentia2 och Trainium2. Kostnaden per miljon dokument minskade med 47 %.

NotisAv Publicerad av Oossa: 1 min läsning

Exa uppger att företaget har förbättrat sitt system för dokumentinbäddning på AWS Inferentia2- och Trainium2-chip, som används för att förbereda webbsidor för semantisk sökning. Enligt Exa har både prestandan och kostnaden per miljon dokument förbättrats med 47 % jämfört med den ursprungliga lösningen.

Arbetet omfattade specialanpassade kärnor för uppmärksamhetsmekanismer och neurala nätverk samt ändringar i minnesanvändningen. Exa uppger att resultaten validerades mot företagets referensmodell med en tröskel för cosinuslikhet på 0,999. Företaget rapporterade ingen förändring av sökprodukten eller kundpriserna.

Varför det spelar roll

För Exa kan en lägre kostnad per miljon dokument göra det billigare att underhålla ett index med miljarder webbsidor. Företaget har inte sagt om kunderna kommer att märka någon förändring av pris eller tjänst.

Var den här artikeln användbar?
Dela

Läs vidare

Oossa · Nyhetsbrev

Veckans AI, förklarad

Varje måndag: nyheterna som är värda att känna till, på enkel svenska. Gratis, ingen spam.