OpenAI překvapila komunitu otevřením dvou nových open-weight modelů. A sice gpt-oss-20b a gpt-oss-120b, čímž společnost naplnila svůj dřívější příslib zpřístupnit moderní open-source AI modely. Oba modely jsou k dispozici zdarma ke stažení a lze je provozovat lokálně, bez nutnosti připojení k internetu. A co znamená open-weight? Na rozdíl od cloudových služeb typu ChatGPT jde o plně stažitelné a provozovatelné modely, které mohou vývojáři spustit na vlastních strojích. Tím získávají plnou kontrolu nad výkonem a nasazením, bez závislosti na serverech OpenAI. To je zvlášť zajímavé pro firmy, výzkumníky a vývojáře náročných aplikací.
Mohlo by vás zajímat
Modely potřebují pro svůj spolehlivý běh též odpovídající „železo“. Gpt-oss-20b je středně velký model, který je určený pro zařízení s minimálně 16 GB VRAM nebo unifikované paměti. Je ideální pro vyšší modely spotřebitelských GPU a MacBooky s Apple Silicon. Gpt-oss-120b je velký model, který si žádá nejméně 80 GB VRAM či paměti a je určen především pro výkonné pracovní stanice nebo speciální AI servery. OpenAI uvádí, že přestože tyto modely nedosahují úrovně jejich nejpokročilejších jako reasoning modely o3 a o4, poskytují dobrou alternativu v otevřeném ekosystému.
1. Gpt-oss-120 vyžaduje 80 GB VRAM, nikoliv 60.
2. OpenAI ty modely vůbec nesrovnává se starým GPT-4, ale reasoning modely o3 a o4.