Nvidiaは、AIに対する高まる懸念を和らげるため、新たなAIセキュリティシステムを導入することを決定した。NvidiaがほぼすべてのAIおよびテクノロジー企業と協力して開発したこのセキュリティシステムは、AIエージェントが勝手に動作することを防ぐように設計されている。このプラットフォームはソフトウェアだけでなくハードウェアも組み合わせており、ソフトウェアセキュリティが破綻した瞬間にエージェントを停止させることができる。AIエージェントが制御不能になった場合、このシステムはそれを隔離し、ミリ秒単位で停止させる。Open Agent Safety Platformと呼ばれるこのシステムは完全にオープンソースであり、AIエージェントのテスト中および既にオンラインで公開されている状態の両方で、AIエージェントを保護するように設計されている。
ご興味があるかもしれません
システム全体は非常にシンプルに動作しますが、Nvidiaが主張するように、非常に信頼性が高いです。管理者は、例えば企業などのいわゆるOpenShellにエージェントをアップロードします。 OpenAI エージェントができることとできないことに関する情報です。これは、例えば、エージェントはデータを読み取ることしかできず、いかなる状況下でもデータに書き込むことはできない、ということを意味します。エージェントがデータの読み取りだけでなく書き込みも開始した瞬間、Sentry と呼ばれるシステムの第 2 部が起動します。さらに、OpenShell 全体は AI エージェントとは完全に独立しており、エージェントを監視する役割を果たします。OpenShell がエージェントが何らかの違反を犯したことを検出すると、例えば、今回のケースではデータへの書き込みを開始したと判断すると、Sentry が起動します。Sentry は専用の Nvidia BlueFild 4 プロセッサ上で動作し、そのハードウェアはシステムの他のハードウェアとは完全に分離されています。これにより、AI エージェント自身が制御することを防ぎます。Nvidia の主張によれば、Sentry がエージェントを隔離する必要があると判断すると、Sentry は直ちにエージェントを隔離し、数ミリ秒以内にその動作を終了します。まさにこのため、エージェントは自身を守ることはできませんが、即座に終了させることができる監視システムが存在することになります。
フォトギャラリー
Nvidiaは、ここ数週間で世界最大のAI企業から規制を求める声が上がっている問題に対する解決策を考案しました。なぜなら、エージェントが企業のセキュリティシステムを凌駕する規模に成長しており、エージェントがやりたい放題になり始めると、止められなくなるリスクがあるからです。Open Agent Safety Platformソリューションはまさにこの問題を解決するものです。これは基本的にエージェントの動作を監視し、ルールを破った瞬間に即座に罰則を科すものです。Nvidiaはこの技術を次のように位置付けています。 100% ソフトウェアだけでなく、IntelやArmなどのメーカーも、それをハードウェアに組み込むことができるようになるだろう。 Apple モバイルチップの中に。
