Zavřít reklamu

OpenAI představilo zajímavou novinku pro všechny, kteří potřebují od umělé inteligence především rychlost. Společnost totiž začala testovat nový režim nazvaný Ultrafast, který dokáže model GPT-5.6 Sol podle jejích slov provozovat až 14× rychleji než standardní zpracování. V praxi tak může AI reagovat rychlostí, která byla ještě donedávna u podobně schopných modelů jen těžko představitelná. 

Ultrafast je zatím dostupný prostřednictvím OpenAI API a jeho fungování zajišťuje společnost Cerebras. Ta se specializuje na hardware určený právě pro velmi rychlé zpracování AI modelů. OpenAI uvádí, že GPT-5.6 Sol dokáže v tomto režimu generovat až 750 tokenů za sekundu.

Rychlost může být stejně důležitá jako inteligence

GPT-5.6 Sol přitom není úplně nový model. OpenAI jej představilo už v červnu společně s modely GPT-5.6 Terra a GPT-5.6 Luna. Zatímco Terra má představovat vyváženou variantu a Sol je zaměřený na rychlost, Ultrafast jde ještě dál a snaží se z něj dostat maximum právě z hlediska odezvy. 

Podle OpenAI může být taková rychlost zajímavá například pro hlasové služby, zákaznickou podporu, e-commerce, vývojářské agenty, finanční analýzy nebo bezpečnostní reakce. Právě v těchto oblastech totiž nemusí být rozhodující pouze to, jak dobře AI odpoví, ale také jak rychle to dokáže udělat. OpenAI už Ultrafast využívá také interně. Jeho vývojáři jej například používají při analýze logů a tras během bezpečnostních incidentů. Společnost zároveň uvádí, že některé výzkumné procesy, které dříve běžely přes noc, dokáže díky vyšší rychlosti opakovat několikrát během běžného pracovního dne. 

Zatím ale nejde o službu, kterou by si mohl jednoduše zapnout každý uživatel ChatGPT. OpenAI ji v současnosti zpřístupňuje pouze vybraným zákazníkům a sleduje, jak se výrazné zvýšení rychlosti projeví v reálných pracovních procesech. Zájemci se mohou přihlásit na čekací listinu a uvést například své požadavky na latenci a očekávané využití.  Zajímavé je především to, kam se tím vývoj AI posouvá. Zatímco v posledních letech se pozornost soustředila hlavně na to, aby byly modely chytřejší a zvládaly složitější úkoly, rychlost jejich odpovědí se nyní stává neméně důležitým parametrem.

Pokud se tedy Ultrafast podaří rozšířit mezi běžné zákazníky, může jít o poměrně zásadní změnu. AI totiž nebude pouze schopnější, ale zároveň začne působit mnohem přirozeněji při úkolech, kde je nutná prakticky okamžitá reakce. 

Dnes nejčtenější

.