У суботу је свет полудео због позива извршног директора компаније Anthropic, Дарија Амодеија, да се успори развој најнапреднијих верзија вештачке интелигенције. Ове верзије се разликују од основних по томе што се могу даље развијати и саме усавршавати. Ако вам име Anthropic ништа не говори, онда ће се већина људи сетити имена њиховог главног производа, а то је Claude. У року од неколико сати, огласили су се и други велики играчи у области вештачке интелигенције, предвођени пчелом са својим шефом. OpenAIкоји је Sam Altman и он је рекао своје Elon Musk стоји на челу xAI.
Али хајде да идемо корак по корак. У суботу је Дарио Амодеи позвао целу индустрију вештачке интелигенције да успори темпо развоја у интересу људске безбедности. Амодеи је првенствено апеловао на довољно времена за имплементацију безбедносних мера пре него што је модели вештачке интелигенције претекну. То јест, да nestОчекује се да ће вештачка интелигенција бити бржа и напреднија од безбедносних мера и правила. Sam Altman i Elon Musk одмах се придружио позиву. Ово је био очекиван потез, посебно од Маска, с обзиром на то да је он одавно упозоравао на опасности вештачке интелигенције. Касније се придружио и Демис Хасабис, који је на челу компаније Google DeepMind, и рекао да је оно што Амодеј предлаже разумно и исправно. Такође је нагласио да је потребно прецизирати конкретне мере.
Могли бисте бити заинтересовани
ProПроблем је што је вештачка интелигенција почела да помаже у развоју других вештачких интелигенција, што изузетно убрзава цео процес развоја. Штавише, када вештачка интелигенција ствара напреднију вештачку интелигенцију, веома је тешко пратити овај процес. ProПроблеми су у суштини на два нивоа. Нови модели вештачке интелигенције развијени из модела вештачке интелигенције претходних генерација можда не укључују мере безбедности које, на пример, спречавају вештачку интелигенцију да развија оружје, опасне супстанце и још много тога. Други ниво је да је могуће да ће агенти вештачке интелигенције ускоро контролисати цео интернет, и то у року од 6-12 месеци. Екстремни сценарио је да би оно што се догодило пре неколико недеља... OpenAI, када су њихови ботови напали платформу Hugging Face, могли су да коштају цео интернет и изазову штету од стотина милијарди долара практично преко ноћи.
Могли бисте бити заинтересовани
Генерална директорка компаније Anthropic, Дарија Амодеие, стога је предложила мере за спречавање таквих ситуација. Anthropic жели да независним евалуаторима омогући дугорочни приступ интерним системима компаније и њиховим најновијим моделима који су у развоју. Они ће пратити да ли се они придржавају безбедносних правила, процењивати инциденте и проверавати безбедност нових модела. Следећи корак је већа сарадња између компанија за вештачку интелигенцију. Требало би да поставе свеобухватне безбедносне стандарде и пронађу начине да спрече компаније да претерују са развојем на рачун безбедности. Трећи корак је међународни споразум о безбедносним стандардима са свим земљама света, укључујући и ауторитарне режиме попут Кине.
Minimálně Musk chce naoko zpomalit doufaje, že konkurence to udělá, aby je dohnal. Altmanovi věřím asi tak o 0,01% víc.