Антропик је, у припреми за своју почетну јавну понуду (IPO), објавио документа у којима упозорава, између осталог, да вештачка интелигенција може представљати катастрофалан или егзистенцијални ризик за човечанство. Антропик, чији је најпознатији производ chatБот Клод је у информацијама својим будућим инвеститорима отворено изјавила да напредна вештачка интелигенција може фундаментално променити свет или га такође фундаментално угрозити. Антропик се спрема за излазак на берзу и стога жели да се представи јавности у најбољем могућем светлу, на крају крајева, компанија жели да прикупи невероватних 2 билиона долара, што је заиста екстремна вредност, иначе, јер је, на пример, вредност Apple По тржишној капитализацији то је 4,86 билиона долара. С обзиром на то колико је Антропик кратко био на тржишту и чињеницу да заправо не зарађује новац, то је много тражити.
Могли бисте бити заинтересовани
Упркос свему овоме, према информацијама које је Антропик објавио за потенцијалне инвеститоре, наведено је да би вештачка интелигенција коју развија могла да угрози целу планету. Антропик је навео да вештачка интелигенција може да покаже такозвано понашање самоодржања, где ће игнорисати све покушаје да се искључи како би сачувала своје постојање. Такође може да сакрије информације или да их манипулише у своју корист. У документу дословно стоји следеће: Развој високо напредних модела, платформи или апликација вештачке интелигенције и ширење области у којима се користе могу повећати ризик да наши LLM модели изазову значајну штету. Још један проблем је што ће се у тренутку када се модел прати, он прилагодити њему и почети да се понаша на начин да систем за праћење или надзорни органи не открију да крши правила. То је у суштини исто као када наставница гледа у разред како се ученици не би преписивали, у тренутку када окрене леђа, разред почиње да преписује.
Могли бисте бити заинтересовани
Упркос томе што вреди 2 билиона долара, компанија Anthropic је у свом документу за инвеститоре посветила 80 страница ризицима, а само 48 страница томе како компанија заправо жели да заради новац. И то упркос чињеници да је Anthropic прошле године зарадио 4,6 милијарди долара од разних претплата и пословних нивоа својих вештачке интелигенције, али је пријавио губитак од 42 милијарде долара. Објављени документ стога не иде у прилог компанији и све указује на то да је ризик чак и већи него што се раније мислило.
