OpenAI sprístupnilo Ultrafast pre GPT-6 Astra, NVIDIA uvádza nasadenie na Blackwell

OpenAI zavádza platený nízkolatenčný režim Ultrafast pre API modelu GPT-6 Astra. Firma deklaruje až osemnásobne vyššiu rýchlosť oproti režimu Standard, no pri štarte platia nižšie limity a obmedzenia spracovania dát.

GPT-6 Astra Ultrafast je nový servisný režim v API od OpenAI, ktorého prioritou je nízka latencia odpovedí. Podľa dokumentácie je všeobecne dostupný pre model GPT-6 Astra, hoci pri uvedení platia nižšie limity. OpenAI pri režime uvádza rýchlosť „až 8ד oproti režimu Standard. Ide však o maximálny deklarovaný prínos, nie o garantované zrýchlenie každej požiadavky.

Režim je určený pre platené použitie a OpenAI zároveň upozorňuje, že je drahší než štandardné spracovanie. Konkrétny cenník a náklady pri produkčnom používaní budú preto dôležité najmä pre vývojárov, ktorí prevádzkujú veľký objem volaní API.

GPT-6 Astra Ultrafast má obmedzený prístup v ChatGPT

Pri štarte je Ultrafast v produktoch ChatGPT Work a Codex dostupný používateľom plánu Pro $500 a oprávneným pracovným priestorom Enterprise a Edu. Prístup naopak nemajú predplatitelia Plus, Pro $100, Pro $200 ani Business.

Rozdelenie prístupu ukazuje, že OpenAI ponúka nízkolatenčný režim oddelene od samotného modelu a v úvodnej fáze ho smeruje najmä k najdrahšiemu individuálnemu plánu a vybraným organizáciám. Pre API je režim všeobecne dostupný, no pri štarte s nižšími limitmi.

Maximálne osemnásobné zrýchlenie nie je univerzálny výsledok

Hodnota „až 8ד porovnáva Ultrafast so servisným režimom Standard. Reálny čas odpovede v konkrétnej aplikácii môže ovplyvniť sieťové spojenie, streamovanie výstupu, používanie nástrojov, dĺžka generovanej odpovede aj limity daného účtu.

V overených materiáloch neboli uvedené nezávislé benchmarky, ktoré by túto maximálnu hodnotu potvrdzovali v bežných aplikáciách. Pri hodnotení prínosu pre produkčné nasadenie preto bude podstatné porovnávať latenciu a priepustnosť na konkrétnych workflowoch, nie iba deklarované maximum.

Nižšia latencia je relevantná najmä pri interaktívnych systémoch, kódovacích agentoch a agentných workflowoch s opakovanými volaniami nástrojov. Pri takýchto úlohách sa jednotlivé čakania na model môžu sčítať do celkového času dokončenia úlohy.

API nepodporuje regionálne endpointy v EÚ

OpenAI v dokumentácii uvádza aj obmedzenie spracovania dát. Ultrafast pre API podporuje iba US data residency a globálne spracovanie. Tento režim nepodporuje regionálne endpointy v Európskej únii.

Pre organizácie, ktoré potrebujú využívať konkrétne regionálne endpointy, je to praktické obmedzenie pri rozhodovaní, či nový režim nasadiť. Dokumentácia zároveň označuje Ultrafast za drahšiu možnosť, takže pred produkčným použitím bude potrebné zohľadniť aj jeho cenu.

NVIDIA hovorí o GPU Blackwell

NVIDIA 1. októbra 2026 oznámila, že GPT-6 Astra Ultrafast beží na GPU NVIDIA Blackwell. Podľa spoločnosti výkon zvyšujú aj inferenčné optimalizácie od OpenAI.

Toto tvrdenie o konkrétnom hardvérovom nasadení pochádza od NVIDIA. OpenAI vo svojej overenej dokumentácii infraštruktúru samostatne nešpecifikuje. Ďalší vývoj ukáže najmä cenu režimu, rozšírenie prístupu na ďalšie plány a pracovné priestory, nezávislé merania oproti Standardu aj prípadné rozšírenie regionálneho spracovania mimo USA.

Zdroje

Overené a aktualizované: 02. 10. 2026 06:21

Zdieľanie