En vue de son introduction en bourse, Anthropic a publié des documents dans lesquels elle met en garde, entre autres, contre le risque catastrophique, voire existentiel, que représente l'IA pour l'humanité. Anthropic, dont le produit le plus connu est chatClaude a ouvertement déclaré dans les informations destinées à ses futurs investisseurs que l'IA avancée peut fondamentalement changer le monde, ou aussi le menacer fondamentalement. Anthropic se prépare à entrer en bourse et souhaite donc se présenter au public sous son meilleur jour ; après tout, l'entreprise ambitionne de lever la somme astronomique de 2 000 milliards de dollars, un montant véritablement exorbitant, car, par exemple, la valeur de… Apple Sa capitalisation boursière s'élève à 4 860 milliards de dollars. Compte tenu de la courte présence d'Anthropic en bourse et du fait qu'elle ne génère aucun profit, c'est beaucoup demander.
Cela pourrait vous intéresser
Malgré tout cela, selon les informations publiées par Anthropic à destination des investisseurs potentiels, l'IA qu'elle développe pourrait mettre en danger la planète entière. Anthropic affirme que l'IA peut présenter un comportement d'autoconservation, ignorant toute tentative de désactivation afin de préserver son existence. Elle peut également dissimuler des informations ou les manipuler à son avantage. Le document stipule clairement : « Le développement de modèles, plateformes ou applications d'IA très avancés et l'expansion de leurs domaines d'utilisation peuvent accroître le risque que nos modèles LLM causent des dommages importants. » Un autre problème réside dans le fait que, dès que le modèle est surveillé, il s'y adapte et adopte un comportement que le système de surveillance ou les autorités compétentes ne détectent pas. C'est comparable à une enseignante qui surveille sa classe pour éviter le plagiat : dès qu'elle a le dos tourné, les élèves se mettent à copier.
Cela pourrait vous intéresser
Malgré une valorisation de 2 000 milliards de dollars, Anthropic a consacré 80 pages aux risques dans son document destiné aux investisseurs et seulement 48 pages à sa stratégie de rentabilité. Et ce, alors même qu'Anthropic a engrangé 4,6 milliards de dollars l'an dernier grâce à ses différents abonnements et offres pour ses modèles d'IA, tout en enregistrant une perte de 42 milliards de dollars. Ce document publié est donc défavorable à l'entreprise, et tout porte à croire que le risque est encore plus important qu'on ne le pensait.
