AWS ने घोषणा की कि OpenAI का GPT‑6 Astra अब Amazon Bedrock पर UltraFast मोड के साथ उपलब्ध है। यह नया टियर उन कामों के लिए है जहां रफ्तार अहम है, जैसे रियल-टाइम कोडिंग असिस्टेंट और इंटरैक्टिव एजेंट। AWS का कहना है कि यह मोड स्टैंडर्ड API के मुकाबले छह गुना तक तेज़ चल सकता है और लगभग 300 टोकन प्रति सेकंड की रफ्तार देता है। उपयोगकर्ता इसे Bedrock कंसोल या इसके API के ज़रिए चालू कर सकते हैं; उपलब्धता क्षेत्र और कीमत पर निर्भर करेगी।
यह क्यों मायने रखता है
डेवलपर लाइव कोडिंग हेल्पर जैसी कम लेटेंसी वाली AI सुविधाएं बना सकते हैं, जो पहले के मुकाबले साफ़ तौर पर तेज़ जवाब देंगी।