Anthropic, готуючись до свого IPO, опублікувала документи, в яких, серед іншого, попереджає, що штучний інтелект може становити катастрофічну або екзистенційну загрозу для людства. Anthropic, найвідомішим продуктом якої є chatБот Клод відкрито заявила в інформації для своїх майбутніх інвесторів, що передовий штучний інтелект може фундаментально змінити світ або ж фундаментально загрожувати йому. Anthropic готується до публічного виходу на біржу і тому хоче представити себе громадськості в найкращому світлі, адже компанія хоче залучити неймовірні 2 трильйони доларів, що, до речі, є справді надзвичайною величиною, оскільки, наприклад, вартість Apple За ринковою капіталізацією це 4,86 трильйона доларів. Враховуючи, як коротко Anthropic перебуває на ринку та той факт, що вона фактично не приносить жодних грошей, це забагато.
Вас може зацікавити
Незважаючи на все це, згідно з інформацією, яку Anthropic опублікувала для потенційних інвесторів, вона заявила, що ШІ, який вона розробляє, може поставити під загрозу всю планету. Anthropic заявила, що ШІ може демонструвати так звану поведінку самозбереження, коли він ігноруватиме будь-які спроби його зупинити, щоб зберегти своє існування. Він також може приховувати інформацію або маніпулювати нею на свою користь. У документі буквально зазначено наступне: Розробка високорозвинених моделей, платформ або додатків ШІ та розширення сфер, в яких вони використовуються, може збільшити ризик того, що наші моделі LLM завдадуть значної шкоди. Ще одна проблема полягає в тому, що в момент, коли модель починає контролюватися, вона адаптується до цього і починає поводитися таким чином, що система моніторингу або органи нагляду не виявляють, що вона порушує правила. Це по суті те саме, що коли вчитель дивиться на клас, щоб учні не копіювали один одного, в момент, коли вона повертається спиною, клас починає копіювати.
Вас може зацікавити
Незважаючи на те, що Anthropic оцінюється в 2 трильйони доларів, у своєму документі для інвесторів компанія присвятила 80 сторінок ризикам і лише 48 сторінок тому, як компанія насправді хоче заробляти гроші. І це попри те, що Anthropic минулого року заробила 4,6 мільярда доларів на різних підписках та бізнес-рівнях своїх моделей штучного інтелекту, але повідомила про збитки у розмірі 42 мільярдів доларів. Таким чином, опублікований документ не є вигідним для компанії, і все вказує на те, що ризик навіть більший, ніж вважалося раніше.
