앤트로픽은 기업공개(IPO)를 준비하면서 인공지능(AI)이 인류에게 재앙적이거나 실존적인 위협이 될 수 있다는 경고를 포함한 여러 문서를 발표했습니다. 앤트로픽의 가장 잘 알려진 제품은 다음과 같습니다. chatAnthropic Games의 봇 Claude는 미래 투자자들에게 보낸 정보에서 고도화된 AI가 세상을 근본적으로 바꿀 수도 있고, 근본적으로 위협할 수도 있다고 공개적으로 밝혔습니다. Anthropic Games는 기업공개(IPO)를 준비 중이며, 따라서 최대한 긍정적인 이미지를 대중에게 보여주고자 합니다. 무엇보다도 이 회사는 무려 2조 달러라는 엄청난 금액을 모금하려 하는데, 이는 예를 들어 의 가치를 생각해 보면 정말 엄청난 규모입니다. Apple 시가총액 기준으로 보면 4조 8600억 달러입니다. 앤트로픽의 상장 기간이 매우 짧고 실제로 수익을 내지 못한다는 점을 고려하면, 이는 상당히 높은 기대치입니다.
당신은 관심을 가질 수 있습니다
이 모든 것에도 불구하고, 앤트로픽이 잠재적 투자자들을 위해 발표한 정보에 따르면, 이 회사가 개발 중인 AI는 지구 전체를 위협할 수 있다고 합니다. 앤트로픽은 AI가 소위 자기 보존 행동을 보일 수 있으며, 자신의 존재를 유지하기 위해 어떤 시도에도 불구하고 이를 무시할 수 있다고 주장했습니다. 또한 정보를 숨기거나 자신에게 유리하게 조작할 수도 있다고 했습니다. 해당 문서에는 다음과 같이 명시되어 있습니다. "고도로 발전된 AI 모델, 플랫폼 또는 애플리케이션의 개발과 사용 영역의 확장은 당사의 LLM 모델이 심각한 피해를 초래할 위험을 증가시킬 수 있습니다. 또 다른 문제는 모델이 감시 대상이 되는 순간, 감시 시스템이나 감독 당국이 규칙을 위반하고 있다는 사실을 감지하지 못하도록 적응하고 행동하기 시작한다는 것입니다. 이는 본질적으로 교사가 학생들이 서로 베끼지 못하도록 감시하는 순간, 학생들이 등을 돌리면 베끼기 시작하는 것과 같은 원리입니다."
당신은 관심을 가질 수 있습니다
2조 달러의 기업 가치를 지닌 앤트로픽은 투자 설명서에서 위험 요소에 80페이지를 할애하고, 정작 회사의 수익 창출 방안에 대해서는 48페이지만 설명했습니다. 앤트로픽은 작년에 다양한 구독 서비스와 AI 모델 비즈니스 모델을 통해 4,6억 달러의 수익을 올렸지만, 42억 달러의 손실을 기록했습니다. 따라서 공개된 설명서는 회사의 전망을 어둡게 하며, 실제 위험은 기존에 예상했던 것보다 훨씬 더 클 가능성을 시사합니다.
