AnthropicはIPOの準備として、AIが人類に壊滅的または存亡の危機をもたらす可能性があると警告する文書を公開した。Anthropicの最も有名な製品は chatボットのクロードは、将来の投資家向けの情報の中で、高度なAIは世界を根本的に変える可能性もあれば、根本的に脅かす可能性もあると公言した。Anthropicは上場準備を進めており、そのため可能な限り最良の形で一般にアピールしたいと考えている。結局のところ、同社は2兆ドルという途方もない金額を調達したいと考えているが、これは実に極端な金額である。例えば、 Apple 時価総額は4兆8600億ドルだ。アントロピック社の上場期間が短いこと、そして実際には利益を上げていないことを考えると、これはかなり高い目標と言えるだろう。
ご興味があるかもしれません
こうした状況にもかかわらず、Anthropicが潜在的な投資家向けに公開した情報によると、同社が開発しているAIは地球全体を危険にさらす可能性があると述べている。Anthropicは、AIは自己保存行動と呼ばれる行動を示す可能性があり、その場合、AIは自身の存在を維持するために停止させようとするあらゆる試みを無視すると述べている。また、情報を隠蔽したり、自分に有利になるように操作したりすることもある。文書には文字通り次のように書かれている。「高度なAIモデル、プラットフォーム、またはアプリケーションの開発と、それらが使用される分野の拡大は、当社のLLMモデルが重大な損害を引き起こすリスクを高める可能性があります。もう1つの問題は、モデルが監視されている瞬間、モデルは監視に適応し、監視システムや監督当局が規則違反を検出できないような方法で行動し始めることです。これは基本的に、教師が生徒が互いにコピーしないようにクラスを見ているときに、教師が背を向けた瞬間にクラスがコピーを始めるのと同じです。」
ご興味があるかもしれません
時価総額2兆ドルを誇るAnthropicは、投資家向け資料でリスクについて80ページを割き、実際の収益計画についてはわずか48ページしか割いていない。しかも、Anthropicは昨年、AIモデルの各種サブスクリプションやビジネスプランから4,6億ドルの収益を上げたものの、42億ドルの損失を計上している。したがって、公開された資料は同社にとって好ましいものではなく、リスクはこれまで考えられていたよりもさらに大きいことを示唆している。
