Forskere var i stand til å reprodusere den grunnleggende DeepSeek-teknologien, alt som skulle til var $30

Et team av forskere fra University of California, Berkeley, hevder å ha replikert nøkkelteknologien bak den populære DeepSeek kunstig intelligens. De hadde bare et budsjett på $30 for alt. Det kinesiske selskapet DeepSeek var ansvarlig for at gigantiske amerikanske AI-selskaper skrev av milliarder av dollar i verdien av aksjene deres. DeepSeek har vist at dette selskapet kan gjøre det de gjør til betydelig lavere maskinvarekostnader, strømforbruk og vannforbruk. Nærmere bestemt kan R1-modellen konkurrere med systemer som f.eks ChatGPT for en brøkdel av kostnaden.

Berkeley-teamet reagerte enda mer radikalt og bestemte seg for å lage et enda billigere AI-alternativ, og under ledelse av doktorgradsstudent Jiayi Pan laget de TinyZero, en mindre versjon av DeepSeek-modellen. Universitetet har publisert alt materialet for TinyZero på GitHub , hvor det er fritt tilgjengelig for alle som er interessert i å studere problemstillingen. Selv om TinyZero ikke når dimensjonene til den primære DeepSeek-modellen, som har svimlende 671 milliarder parametere, hevder Pan at den fanger essensen av oppførselen til DeepSeek-modellen «R1-Zero». Essensen av hvordan DeepSeeks AI fungerer er det viktigste som for tiden diskuteres i AI-verdenen.

Hvordan fungerer TinyZero?

TinyZero bruker såkalt forsterkningslæring. En metode hvor AI starter med nesten tilfeldige svar og gradvis lærer å forbedre sine resultater ved å gjøre korrigeringer og finne de riktige løsningene. Det kan ganske enkelt sammenlignes med spillet Countdown, hvor spillere kombinerer tall for å nå en målverdi. Selv om AI genererte useriøse svar til å begynne med, var detonec var i stand til å forstå reglene uavhengig og rette opp sine feil. Det faktum at nøkkel AI-teknologi kan replikeres i løpet av få dager med arbeid og til en pris av titalls dollar er sjokkerende. Det strider mot den etablerte oppfatningen om at utvikling av kunstig intelligens krever store datasentre, tusenvis av kraftige GPUer og milliarder av dollar i investeringer.

DeepSeek har tidligere hevdet at trening av hovedmodellen kun koster noen få millioner dollar, noe som er betydelig mindre enn de fleste vestlige AI-selskaper. Nå har et team fra Berkeley bevist at det kan gjøres enda billigere, for bare $30. Selvfølgelig inkluderer dette beløpet ikke lønnen til forskere, men bare kostnadene til maskinvare og energi. Mens TinyZero viser at avansert forsterkende læring kan gjøres billig, kommer den til kort med kompleksiteten og skalerbarheten til det større DeepSeek-systemet. Foreløpig er det et konsept som viser en viss mulighet for hvordan AI også kan fungere, snarere enn en reell konkurrent til etablerte AI-modeller.

Vil markedet for kunstig intelligens endre seg takket være DeeepSeek eller TinyZero?

Foreløpig er dette mer et eksperiment, men det tyder på mye. Hvis uavhengige utviklere kan lage avanserte AI-modeller med miniTil lave kostnader kan disse teknologiene også brukes av store selskaper som f.eks OpenAI, Google Microsoft eller mange andre. De har så langt investert milliarder av dollar i sine AI-modeller, datasentre og andre AI-relaterte teknologier. Det kan plutselig vise seg at AI-sektoren er betydelig overpriset, og det disse selskapene betaler milliarder av dollar for i dag kan bare gjøres betydelig billigere ved å bruke en annen metode. Dette kan føre til fremveksten av mindre aktører som ganske enkelt tar med ny teknologi for å nærme seg AI og lett kan konkurrere med selskaper som i dag hovedsakelig drar nytte av sine egne styrker.onebudsjetter. Bare tiden vil vise, men en ting er sikkert nå: det er nødvendig å ta med i betraktningen at enkelte AI-modeller allerede kan operere med betydelig lavere ressurser enn etablerte aktører på markedet viser oss.