OpenAI overraskede lokalsamfundet ved at åbne to nyemodeller med penvægtNemlig gpt-oss-20b a gpt-oss-120b, hvorved virksomheden opfyldte sine tidligere løfte om at gøre moderne open source AI-modeller tilgængeligeBegge modeller er tilgængelige gratis at downloade og kan køres lokalt uden behov for en internetforbindelse. Og hvad betyder open-weight? I modsætning til cloudaf tjenester som ChatGPT Disse er fuldt downloadbare og operationelle modeller, som udviklere kan køre på deres egne maskiner, hvilket giver dem fuld kontrol over deres ydeevne.onemed implementering, uden serverafhængighed OpenAIDette er særligt interessant for virksomheder, forskere og udviklere af krævende applikationer.
Du kunne være interesseret i
Modeller kræver også passende hardware for at køre pålideligt. Gpt-oss-20b er en mellemstor model, som er beregnet til enheder med miniMinimum 16 GB VRAM eller samlet hukommelse. Ideel til avancerede forbruger-GPU'er og MacBookys Apple Silicon. Gpt-oss-120b er en stor model, som kræver mindst 80 GB VRAM eller hukommelse og primært er beregnet til kraftfulde arbejdsstationer eller specielle AI-servere. OpenAI siger, at selvom disse modeller når ikke niveauet af deres mest avancerede som ræsonnementsmodeller o3 og o4, giver et godt alternativ i et åbent økosystem.
1. Gpt-oss-120 kræver 80 GB VRAM, ikke 60.
2. OpenAI De modeller kan slet ikke sammenlignes med de gamle GPT-4, men ræsonnementsmodellerne o3 og o4.