Et team af forskere fra University of California, Berkeley, hævder at have replikeret nøgleteknologien bag den populære DeepSeek kunstig intelligens. De havde kun et budget på $30 for alt. Det kinesiske firma DeepSeek var ansvarlig for, at gigantiske amerikanske AI-virksomheder afskrev milliarder af dollars i værdien af deres aktier. DeepSeek har vist, at denne virksomhed kan gøre, hvad de gør til væsentligt lavere hardwareomkostninger, elforbrug og vandforbrug. Helt konkret kan dens R1-model konkurrere med systemer som f.eks ChatGPT for en brøkdel af prisen.
Berkeley-teamet reagerede endnu mere radikalt og besluttede at skabe et endnu billigere AI-alternativ, og under ledelse af ph.d.-studerende Jiayi Pan skabte de TinyZero, en mindre version af DeepSeek-modellen. Universitetet har offentliggjort alle materialerne til TinyZero på GitHub , hvor de er frit tilgængelige for alle, der er interesserede i at studere problemstillingen. Selvom TinyZero ikke når dimensionerne af den primære DeepSeek-model, som har svimlende 671 milliarder parametre, hævder Pan, at den indfanger essensen af DeepSeek-modellens "R1-Zero" adfærd. Essensen af, hvordan DeepSeeks AI fungerer, er det vigtigste, der i øjeblikket diskuteres i AI-verdenen.
Hvordan virker TinyZero?
TinyZero bruger såkaldt forstærkningslæring. En metode, hvor AI starter med næsten tilfældige svar og gradvist lærer at forbedre sine resultater ved at lave rettelser og finde de rigtige løsninger. Det kan ganske enkelt sammenlignes med spillet Countdown, hvor spillere kombinerer tal for at nå en målværdi. Selvom AI'en genererede meningsløse svar i starten, var detonec var i stand til selvstændigt at forstå reglerne og rette sine fejl. Det faktum, at vigtig AI-teknologi kan kopieres på få dages arbejde og til en pris af titusinder af dollars, er chokerende. Det går imod den etablerede forestilling om, at udvikling af kunstig intelligens kræver store datacentre, tusindvis af kraftfulde GPU'er og milliarder af dollars i investeringer.
DeepSeek har tidligere hævdet, at træning af dens hovedmodel kun koster et par millioner dollars, hvilket er betydeligt mindre end de fleste vestlige AI-virksomheder. Nu har et team fra Berkeley bevist, at det kan gøres endnu billigere, for kun $30. Dette beløb inkluderer naturligvis ikke videnskabsmænds løn, men kun omkostningerne til hardware og energi. Mens TinyZero viser, at avanceret forstærkningslæring kan gøres billigt, er det ikke kompleksiteten og skalerbarheden af det større DeepSeek-system. For nu er det et koncept, der viser en vis mulighed for, hvordan AI også kan fungere, snarere end en reel konkurrent til etablerede AI-modeller.
Vil markedet for kunstig intelligens ændre sig takket være DeeepSeek eller TinyZero?
Indtil videre er dette mere et eksperiment, men det tyder på meget. Hvis uafhængige udviklere kan skabe avancerede AI-modeller med miniTil lave omkostninger kan disse teknologier også bruges af kæmpestore virksomheder som f.eks OpenAIGoogle, Microsoft eller mange andre. De har indtil videre investeret milliarder af dollars i deres AI-modeller, datacentre og andre AI-relaterede teknologier. Det kan pludselig vise sig, at AI-sektoren er markant overpris, og hvad disse virksomheder betaler milliarder af dollars for i dag, kan kun gøres væsentligt billigere ved at bruge en anden metode. Dette kan føre til fremkomsten af mindre aktører, der blot bringer ny teknologi til at nærme sig AI og nemt kan konkurrere med virksomheder, der i øjeblikket hovedsageligt drager fordel af deres egne styrker.onebudgetter. Kun tiden vil vise, men én ting er sikkert nu: Det er nødvendigt at tage højde for, at nogle AI-modeller allerede kan fungere med væsentligt lavere ressourcer, end de etablerede aktører på markedet viser os.
Det er ikke sådan, at DeepSeek gør mine knæ svage igen. Gemini Google gør, hvad jeg har brug for, jeg tager et billede her og der, og det taler også tjekkisk meget godt. Det vil tjene meget godt til at drive andre AI'er ud, men det ville være et vendepunkt...
Jeg forstår vist ikke artiklen... Hvad blev der egentlig skabt for de 30 dollars? Fra Github ser det ud til, at kun en delmængde af R1 er egnet til nedtællings- og multiplikationsspillet. Så at sammenligne den i pris med den fulde model er helt udelukket. Jeg ved ikke engang, om den har samme arkitektur, men det går jeg ud fra, at den har.
Han og DeepSeek er ikke nær så dårlige. Bare giv ham en opgave at løse, hvor parablen møder exp.onencielou og slår sig selv i hovedet, når han tænker på det, og til sidst spytter han fuldstændig sludder ud i resuméet. Den er god til at komme med historier, men hvis du vil have noget analytisk præcist, så er det nok for nu.