Nvidia telah memutuskan untuk meredakan kekhawatiran yang semakin meningkat tentang AI, dengan memperkenalkan sistem keamanan AI baru. Sistem keamanan ini, yang telah dikembangkan Nvidia bersama hampir semua perusahaan AI dan teknologi yang dapat Anda bayangkan, akan mencegah agen AI melakukan apa pun yang mereka inginkan. Platform ini menggabungkan perangkat lunak, tetapi juga perangkat keras, yang dapat mematikan agen saat keamanan perangkat lunak gagal. Jika ada agen AI yang lepas kendali, sistem ini dapat mengisolasi dan menghentikannya dalam hitungan milidetik. Sistem ini, yang disebut Open Agent Safety Platform, sepenuhnya bersifat open source dan dirancang untuk mengamankan agen AI baik selama pengujian maupun saat sudah digunakan secara online untuk publik.
Anda mungkin tertarik
Seluruh sistem bekerja cukup sederhana, tetapi seperti yang diklaim Nvidia, sangat andal. Seorang administrator mengunggah agen ke dalam apa yang disebut OpenShell, misalnya sebuah perusahaan. OpenAI Informasi tentang apa yang dapat dan tidak dapat dilakukan oleh agen. Ini berarti, misalnya, bahwa agen hanya dapat membaca data dan tidak dapat menulis ke data tersebut dalam keadaan apa pun. Saat agen berhenti hanya membaca data, tetapi juga mulai menulis ke data tersebut, bagian kedua dari sistem yang diberi label Sentry diaktifkan. Selain itu, seluruh OpenShell sepenuhnya independen dari agen AI dan berfungsi untuk memantaunya. Saat OpenShell mendeteksi bahwa agen telah melanggar sesuatu, misalnya, dalam kasus kita, ia mulai menulis ke data, ia mengaktifkan Sentry. Kemudian, Sentry berjalan pada prosesor Nvidia BlueFild 4 khusus dan perangkat kerasnya sepenuhnya terpisah dari perangkat keras sistem lainnya. Inilah yang akan mencegah agen AI itu sendiri mengendalikannya. Saat Sentry mendeteksi bahwa ia harus mengisolasi agen, seperti yang diklaim Nvidia, ia segera mengisolasi agen dan menghentikan aktivitasnya dalam hitungan milidetik. Justru karena alasan inilah, agen tidak akan dapat melindungi dirinya sendiri, tetapi akan ada pengawasan yang dapat menghentikannya dengan segera.
Galeri foto
Nvidia telah menghadirkan solusi yang memicu seruan regulasi dari perusahaan AI terbesar di dunia dalam beberapa minggu terakhir, karena agen-agen mereka melampaui sistem keamanan perusahaan dan jika mereka mulai melakukan apa pun yang mereka inginkan, ada risiko bahwa mereka akan sulit dihentikan. Inilah tepatnya yang seharusnya dipecahkan oleh solusi Open Agent Safety Platform. Pada dasarnya, solusi ini menciptakan pengawasan terhadap apa yang dilakukan agen dan saat mereka melanggar aturan, mereka akan segera dihukum. Nvidia memposisikan teknologi ini sebagai... 100% Dengan adanya open source, tidak hanya dalam hal perangkat lunak, tetapi produsen seperti Intel, Arm, atau lainnya juga dapat memasukkannya ke dalam perangkat keras mereka. Apple di dalam chip seluler mereka.
