Nvidia telah memutuskan untuk mengurangkan kebimbangan yang semakin meningkat mengenai AI, dengan memperkenalkan sistem keselamatan AI yang baharu. Keselamatan yang telah diusahakan oleh Nvidia dengan hampir setiap syarikat AI dan teknologi yang anda boleh fikirkan, akan berfungsi untuk menghalang ejen AI daripada melakukan apa sahaja yang mereka mahukan. Platform ini menggabungkan perisian, tetapi juga perkakasan, yang boleh mematikan ejen sebaik sahaja sebarang keselamatan perisian gagal. Jika mana-mana ejen AI menjadi di luar kawalan, sistem ini boleh mengasingkan dan menghentikannya dalam beberapa milisaat. Sistem yang dipanggil Platform Keselamatan Ejen Terbuka ini adalah sumber terbuka sepenuhnya dan direka bentuk untuk mengamankan ejen AI semasa ujian dan apabila ia telah digunakan dalam talian kepada orang ramai.
Anda mungkin berminat
Seluruh sistem berfungsi dengan agak mudah, tetapi seperti yang didakwa oleh Nvidia, ia sangat andal. Pentadbir memuat naik ejen ke dalam apa yang dipanggil OpenShell, contohnya sebuah syarikat OpenAI maklumat tentang apa yang boleh dan tidak boleh dilakukan oleh ejen. Ini bermakna, sebagai contoh, ia mengatakan bahawa ejen hanya boleh membaca data dan tidak boleh menulis kepadanya dalam apa jua keadaan. Sebaik sahaja ejen berhenti membaca data sahaja, tetapi juga mula menulis kepadanya, bahagian kedua sistem berlabel Sentry diaktifkan. Selain itu, keseluruhan OpenShell sepenuhnya bebas daripada ejen AI dan berfungsi untuk memantaunya. Sebaik sahaja OpenShell mengesan bahawa ejen telah melanggar sesuatu, contohnya, dalam kes kita, ia mula menulis kepada data, ia mengaktifkan Sentry. Ia kemudian berjalan pada pemproses Nvidia BlueFild 4 khusus dan perkakasannya oleh itu berasingan sepenuhnya daripada perkakasan sistem yang lain. Inilah yang akan menghalang ejen AI itu sendiri daripada mengawalnya. Sebaik sahaja Sentry mengesan bahawa ia harus mengasingkan ejen, seperti yang didakwa oleh Nvidia, ia segera mengasingkan ejen dan menamatkan aktivitinya dalam milisaat. Ini kerana ini, ejen tidak akan dapat mengawal dirinya sendiri, tetapi ia akan mempunyai pengawasan ke atasnya yang boleh menamatkannya serta-merta.
Fotogalerie
Nvidia telah menghasilkan penyelesaian yang telah membawa kepada seruan untuk pengawalseliaan oleh syarikat AI terbesar di dunia dalam beberapa minggu kebelakangan ini, kerana ejen mereka telah mengatasi sistem keselamatan syarikat itu sendiri dan jika mereka mula melakukan apa sahaja yang mereka mahukan, terdapat risiko bahawa mereka tidak mungkin dihentikan. Inilah sebenarnya yang harus diselesaikan oleh penyelesaian Platform Keselamatan Ejen Terbuka. Ini pada asasnya mewujudkan pengawasan terhadap apa yang dilakukan oleh ejen dan sebaik sahaja mereka melanggar peraturan, mereka akan segera dihukum. Nvidia meletakkan teknologi itu sebagai 100% sumber terbuka, bukan sahaja dari segi perisian, tetapi pengeluar seperti Intel, Arm atau, sebagai contoh, juga akan dapat memasukkannya ke dalam perkakasan mereka Apple dalam cip mudah alih mereka.
