Anthropic, in preparazione alla sua IPO, ha pubblicato documenti in cui avverte, tra le altre cose, che l'IA può rappresentare un rischio catastrofico o esistenziale per l'umanità. Anthropic, il cui prodotto più noto è chatbot Claude ha apertamente dichiarato nelle informazioni ai suoi futuri investitori che l'IA avanzata può cambiare radicalmente il mondo o anche minacciarlo radicalmente. Anthropic si sta preparando a quotarsi in borsa e quindi vuole presentarsi al pubblico nella migliore luce possibile, dopotutto, l'azienda vuole raccogliere l'incredibile cifra di 2 trilioni di dollari, che è un valore davvero estremo, tra l'altro, perché, ad esempio, il valore di Apple In termini di capitalizzazione di mercato, ammonta a 4,86 trilioni di dollari. Considerando da quanto tempo Anthropic è sul mercato e il fatto che in realtà non genera profitti, è una richiesta eccessiva.
Potrebbe interessarti
Nonostante tutto ciò, secondo le informazioni pubblicate da Anthropic per i potenziali investitori, l'intelligenza artificiale che sta sviluppando potrebbe mettere in pericolo l'intero pianeta. Anthropic ha affermato che l'IA può esibire un cosiddetto comportamento di autoconservazione, ignorando qualsiasi tentativo di disattivarla al fine di preservare la propria esistenza. Può anche nascondere informazioni o manipolarle a proprio vantaggio. Il documento afferma testualmente quanto segue: "Lo sviluppo di modelli, piattaforme o applicazioni di IA altamente avanzati e l'espansione delle aree in cui vengono utilizzati possono aumentare il rischio che i nostri modelli LLM causino danni significativi. Un altro problema è che nel momento in cui il modello viene monitorato, si adatta e inizia a comportarsi in modo tale che il sistema di monitoraggio o le autorità di vigilanza non rilevino che sta violando le regole. È essenzialmente la stessa cosa di quando un insegnante guarda la classe per assicurarsi che gli studenti non copino tra loro: nel momento in cui si gira, la classe inizia a copiare."
Potrebbe interessarti
Nonostante una capitalizzazione di mercato di 2 trilioni di dollari, Anthropic ha dedicato 80 pagine ai rischi nel suo documento per gli investitori e solo 48 pagine a come l'azienda intende effettivamente generare profitti. E questo nonostante Anthropic abbia guadagnato 4,6 miliardi di dollari lo scorso anno da vari abbonamenti e piani tariffari dei suoi modelli di intelligenza artificiale, ma abbia anche registrato una perdita di 42 miliardi di dollari. Il documento pubblicato, quindi, non gioca a favore dell'azienda e tutto indica che il rischio è persino maggiore di quanto si pensasse in precedenza.
