AWS meddelade att GPT‑6 Astra från OpenAI nu finns med UltraFast-läget på Amazon Bedrock. Det nya paketet riktar sig till arbetsbelastningar där hastigheten är avgörande, till exempel kodningsassistenter i realtid och interaktiva agenter. Enligt AWS kan läget köras upp till sex gånger snabbare än standard-API:t och leverera cirka 300 token per sekund. Användare kan aktivera det via Bedrock-konsolen eller API:erna, beroende på regional tillgänglighet och prissättning.
Varför det spelar roll
Utvecklare kan bygga AI-funktioner som är känsliga för fördröjningar, till exempel kodhjälp i realtid, som svarar märkbart snabbare.
