Nvidia вирішила пом'якшити зростаюче занепокоєння щодо штучного інтелекту, представивши нову систему безпеки у сфері штучного інтелекту. Система безпеки, над якою Nvidia працювала майже з кожною компанією у сфері штучного інтелекту та технологій, яку тільки можна уявити, працюватиме над тим, щоб запобігти тому, щоб агенти штучного інтелекту виконували будь-які дії. Платформа поєднує програмне та апаратне забезпечення, яке може зупинити агентів у момент, коли будь-яка програмна безпека виходить з-під контролю. Якщо будь-який агент штучного інтелекту вийде з-під контролю, ця система може ізолювати та зупинити його за мілісекунди. Система під назвою Open Agent Safety Platform має повністю відкритий вихідний код і розроблена для захисту агентів штучного інтелекту як під час тестування, так і після їхнього розгортання в Інтернеті для громадськості.
Вас може зацікавити
Вся система працює досить просто, але, як стверджує Nvidia, дуже надійно. Адміністратор завантажує агента в так званий OpenShell, наприклад, компанії OpenAI інформація про те, що агент може і не може робити. Це означає, наприклад, що там зазначено, що агент може лише читати дані та не може записувати їх за жодних обставин. У момент, коли агент перестає не лише читати дані, але й починає записувати їх, активується друга частина системи під назвою Sentry. Більше того, весь OpenShell повністю незалежний від агента ШІ та служить для його моніторингу. У момент, коли OpenShell виявляє, що агент щось порушив, наприклад, у нашому випадку, він почав записувати дані, він активує Sentry. Потім він працює на спеціалізованих процесорах Nvidia BlueFild 4, і його апаратне забезпечення, таким чином, повністю відокремлене від апаратного забезпечення решти системи. Саме це завадить самому агенту ШІ контролювати його. У момент, коли Sentry виявляє, що йому слід ізолювати агента, як стверджує Nvidia, він негайно ізолює агента та припиняє його діяльність протягом мілісекунд. Саме через це агент не зможе захистити себе, але він матиме над ним нагляд, який може негайно його припинити.
Фото галерея
Nvidia запропонувала рішення, яке останніми тижнями призвело до закликів до регулювання з боку найбільших світових компаній у сфері штучного інтелекту, оскільки їхні агенти переростають власні системи безпеки компаній, і якщо вони почнуть робити все, що заманеться, існує ризик, що їх буде неможливо зупинити. Саме це має вирішити рішення Open Agent Safety Platform. Це, по суті, створює нагляд за тим, що роблять агенти, і в момент порушення ними правил їх негайно покарано. Nvidia позиціонує технологію як 100% відкритий вихідний код, не лише з точки зору програмного забезпечення, але й такі виробники, як Intel, Arm або, наприклад, також зможуть включати його у своє обладнання Apple у своїх мобільних чіпах.
