Тим истраживача са Универзитета у Калифорнији, Беркли, тврди да је реплицирао кључну технологију која стоји иза популарне вештачке интелигенције ДеепСеек. Имали су само буџет од 30 долара за све. Кинеска компанија ДеепСеек била је одговорна за џиновске америчке компаније са вештачком интелигенцијом које су отписивале милијарде долара вредности њихових акција. ДеепСеек је показао да ова компанија може да ради оно што ради уз знатно ниже трошкове хардвера, потрошње електричне енергије и воде. Конкретно, његов Р1 модел може да се такмичи са системима као што су ChatGPT за делић цене.
Тим Берклија је одговорио још радикалније, одлучивши да створи још јефтинију алтернативу вештачке интелигенције и, под вођством докторанта Јиаии Пан-а, креирао је ТиниЗеро, мању верзију ДеепСеек модела. Све материјале за ТиниЗеро обезбеђује универзитет објављено на ГитХуб-у, где су слободно доступни свима који су заинтересовани да се баве овом проблематиком. Док ТиниЗеро не достиже величину главног модела ДеепСеек-а, који има невероватних 671 милијарду параметара, Пан тврди да обухвата суштину ДеепСеек-овог „Р1-Зеро“ понашања. Суштина начина на који ДеепСеек-ова АИ ради је главна ствар о којој се тренутно расправља у свету АИ.
Како ТиниЗеро ради?
ТиниЗеро користи такозвано учење са појачањем. Метода у којој АИ почиње са готово насумичним одговорима и постепено учи да побољшава своје резултате уношењем исправки и проналажењем правих решења. Може се једноставно упоредити са игром Цоунтдовн, где играчи комбинују бројеве да би постигли циљну вредност. Иако је АИ у почетку генерисао бесмислене одговоре, тоoneц је била у стању да самостално разуме правила и исправи своје грешке. Шокантна је чињеница да се кључна АИ технологија може реплицирати за неколико дана рада и по цени од десетине долара. То је против устаљеног схватања да развој вештачке интелигенције захтева велике центре података, хиљаде моћних ГПУ-а и милијарде долара улагања.
ДеепСеек је раније тврдио да је обука његовог главног модела коштала само неколико милиона долара, што је знатно мање од већине западних компанија са вештачком интелигенцијом. Сада је тим са Берклија доказао да се може још јефтиније, за само 30 долара. Наравно, у овај износ нису урачунате плате научника, већ само трошкови хардвера и енергије. Иако ТиниЗеро показује да се напредно учење са појачањем може обавити јефтино, оно не одговара сложености и скалабилности већег ДеепСеек система. За сада, то је концепт који показује одређену могућност како АИ такође може да функционише, а не прави конкурент успостављеним АИ моделима.
Да ли ће се тржиште вештачке интелигенције променити захваљујући ДееепСеек-у или ТиниЗеро-у?
За сада је ово више експеримент, али сугерише много тога. Ако независни програмери могу да креирају напредне АИ моделе са miniПо ниским трошковима, ове технологије могу да користе и велике компаније као што су ОпенАИ, Гоогле, Microsoft или многе друге. До сада су уложили милијарде долара у своје АИ моделе, центре података и друге технологије повезане са вештачком интелигенцијом. Може се изненада испоставити да је сектор вештачке интелигенције знатно прецењен и оно за шта ове компаније данас плаћају милијарде долара може бити знатно јефтиније само коришћењем другачије методе. Ово би могло довести до појаве мањих играча који једноставно доносе нову технологију да приступе АИ и могу лако да се такмиче са компанијама које тренутно имају користи углавном од сопствених снага.oneбуџета. Само ће време показати, али једно је сада сигурно: потребно је узети у обзир да неки модели вештачке интелигенције већ могу да раде са знатно нижим ресурсима него што нам то показују етаблирани играчи на тржишту.
Није да ми ДеепСеек поново слаби колена. Геmini Гугл ради шта ми треба, сликам ту и тамо, а одлично говори и чешки. То ће врло добро послужити за избацивање других АИ, али то би била прекретница...
Ваљда не разумем чланак... Шта је тачно створено за тих 30 долара? Са Гитхуб-а изгледа да је само подскуп Р1 погодан за игру одбројавања и множења. Тако да је поређење у цени са пуним моделом сасвим искључено. Не знам ни да ли има исту архитектуру, али претпостављам да има.
Он и ДеепСеек нису ни приближно тако лоши. Само му дајте задатак да реши где се парабола сусреће са експ.oneнциелоу и туче се размишљајући о томе и на крају испљуне потпуну глупост у резимеу. Добро је за смишљање прича, али ако желите нешто аналитички прецизно, онда довољно за сада.