В подготовка за първичното си публично предлагане, Anthropic публикува документи, в които предупреждава, наред с други неща, че изкуственият интелект може да представлява катастрофален или екзистенциален риск за човечеството. Anthropic, чийто най-известен продукт е chatВ информацията до бъдещите си инвеститори, бот Клод открито заяви, че усъвършенстваният изкуствен интелект може фундаментално да промени света или също така фундаментално да го заплаши. Anthropic се готви да стане публична компания и затова иска да се представи на обществеността в най-добрата възможна светлина, в края на краищата, компанията иска да набере невероятните 2 трилиона долара, което е наистина изключителна стойност, между другото, защото например стойността на Apple Според пазарната капитализация, тя е 4,86 трилиона долара. Като се има предвид колко кратко е била Anthropic на пазара и фактът, че всъщност не печели никакви пари, това е много искане.
Може да се интересувате от
Въпреки всичко това, според информацията, която Anthropic публикува за потенциални инвеститори, се посочва, че разработваният от тях изкуствен интелект може да застраши цялата планета. Anthropic заявява, че изкуственият интелект може да проявява така нареченото поведение на самосъхранение, при което ще игнорира всякакви опити за спиране, за да запази съществуването си. Той може също така да скрие информация или да я манипулира в своя полза. В документа буквално се казва следното: Разработването на високотехнологични модели, платформи или приложения на изкуствен интелект и разширяването на областите, в които се използват, може да увеличи риска нашите LLM модели да причинят значителни щети. Друг проблем е, че в момента, в който моделът започне да се наблюдава, той ще се адаптира към него и ще започне да се държи по начин, по който системата за наблюдение или надзорните органи не откриват, че нарушава правилата. Това е по същество същото като когато учител гледа класа, за да не се преписват учениците, в момента, в който се обърне с гръб, класът започва да преписва.
Може да се интересувате от
Въпреки че стойността на компанията е 2 трилиона долара, Anthropic е посветила 80 страници на рисковете в своя инвеститорски документ и само 48 страници на това как компанията всъщност иска да печели пари. И това въпреки факта, че Anthropic е спечелила 4,6 милиарда долара миналата година от различни абонаменти и бизнес нива на своите AI модели, но е отчетла загуба от 42 милиарда долара. Следователно публикуваният документ не е в добра позиция за компанията и всичко показва, че рискът е дори по-голям, отколкото се смяташе преди.
