В събота светът полудя по призива на главния изпълнителен директор на Anthropic, Дарио Амодей, да се забави разработването на най-модерните версии на изкуствения интелект. Тези версии се различават от основните по това, че могат да се развиват и усъвършенстват сами. Ако името Anthropic не ви говори нищо, то повечето хора ще си спомнят името на основния им продукт, който е Claude. В рамките на часове други големи играчи в областта на изкуствения интелект се обявиха, водени от пчелата с нейния шеф. OpenAI, което е Sam Altman и той също каза своето Elon Musk застанал начело на xAI.
Но нека да правим нещата стъпка по стъпка. В събота Дарио Амодей призова цялата индустрия с изкуствен интелект да забави темпото на развитие в интерес на човешката безопасност. Амодей апелира предимно за достатъчно време за прилагане на мерки за сигурност, преди моделите с изкуствен интелект да я надминат. Тоест, за nestОчаква се изкуственият интелект да бъде по-бърз и по-усъвършенстван от мерките и правилата за сигурност. Sam Altman i Elon Musk веднага се присъедини към призива. Това беше очакван ход, особено от страна на Мъск, като се има предвид, че той отдавна предупреждава за опасностите от изкуствения интелект. По-късно Демис Хасабис, който е ръководител на Google DeepMind, също се присъедини и заяви, че предлаганото от Амодей е разумно и правилно. Той също така подчерта, че е необходимо да се прецизират конкретни мерки.
Може да се интересувате от
ProПроблемът е, че изкуственият интелект започна да помага за разработването на други изкуствени интелекти, което изключително много ускорява целия процес на разработка. Освен това, когато изкуственият интелект създава по-усъвършенстван изкуствен интелект, е много трудно да се наблюдава този процес. ProПроблемите са по същество на две нива. Новите модели на изкуствен интелект, разработени от модели на изкуствен интелект от предишни поколения, може да не включват мерки за сигурност, които например предотвратяват разработването на оръжия, опасни вещества и много други от изкуствения интелект. Второто ниво е, че е възможно агентите на изкуствен интелект скоро да контролират целия интернет и това в рамките на 6-12 месеца. Крайният сценарий е, че случилото се преди няколко седмици би... OpenAI, когато техните ботове атакуваха платформата Hugging Face, можеше да струва целия интернет и да причини щети за стотици милиарди долари практически за една нощ.
Може да се интересувате от
Поради това, главният изпълнителен директор на Anthropic, Дария Амодее, предложи мерки за предотвратяване на подобни ситуации. Anthropic иска да позволи на независими оценители дългосрочен достъп до вътрешните системи на компанията и най-новите им модели, които са в процес на разработка. Те ще следят дали те спазват правилата за сигурност, ще оценяват инциденти и ще проверяват сигурността на новите модели. Следващата стъпка е по-голямо сътрудничество между компаниите за изкуствен интелект. Те трябва да установят всеобхватни стандарти за сигурност и да намерят начини да предотвратят прекаляването на компаниите с развитието за сметка на сигурността. Третата стъпка е международно споразумение за стандартите за сигурност с всички страни по света, включително авторитарни режими като Китай.
Minimálně Musk chce naoko zpomalit doufaje, že konkurence to udělá, aby je dohnal. Altmanovi věřím asi tak o 0,01% víc.