Sílící obavy před AI se rozhodla zmírnit Nvidia, která představila nový bezpečnostní systém proti AI. Zabezpečení, na kteérm Nvidia pracovala s téměř jakoukoli AI a technologickou společností na kterou si vzpomenete bude fungovat tak, aby zabránilo AI agentům dělat si co je napadne. Platforma kombinuje software, ale také hadrware, který dokáže agenty odstavit v momentě, kdy selže jakékoli softwarové zabezpečení. Pokud se jakýkoli AI agent vymkne kontrole, dokáže jej tento systém izolovat a zastavit během milisekund. Systém s názvem Open Agent Safety Platform je zcela open source a je určen k zabezpečení AI agentů a to jak během jejich testování, tak v momentě, kdy jsou již nasazeni online pro veřejnost.
Mohlo by vás zajímat
Celý systém funguje poměrně jednoduše, ale jak Nvidia tvrdí, tak velmi spolehlivě. Do takzvaného OpenShell nahraje správce agenta, tedy například společnost OpenAI informace o tom, co agent smí a nesmí dělat. To znamená, že například řekne, že agent smí data jen číst a nesmí do nich za žádných okolností zapisovat. V momentě, kdy agent přestane data jen číst, ale začne do nich také zapisovat aktivuje se druhá část systému s označnním Sentry. Celý OpenShell je navíc zcela nezávislý na AI agentovi a slouží pro jeho monitoring. V okamžiku, kdy OpenShell zjistí, že agent něco porušil, například v našem případe začal do dat zapisovat, aktivuje Sentry. Ten pak běží na specializovaných procesorech Nvidia BlueFild 4 a jeho hardware je tedy zcela oddělen od hardware zbytku systému. Právě to zabrání tomu, aby jej ovládl samotný AI agent. Sentry v momentě, kdy zjistí, že má agenta izolova,t okamžitě, jak Nvidia tvrdí v řádu milisekund agenta izoluje a ukončí jeho činnost. Právě díky tomu nebude možné, aby agent hlídal sám sebe, ale bude nad sebou mít dozor, který jej může okamžitě ukončit.
Fotogalerie
Nvidia tak přišla s řešením, díky kteérmu v posledních týdnech volají největší AI společnosti světa po regulaci, protože jejich agenti přerůstají bezpečnostní systémy samotných společností a v případě, že si začnou dělat co chtějí, hrozilo, že je nebude možné zastavit. Právě to by mělo řešení Open Agent Safety Platform vyřešit. Vzniká tak v podstatě dohled nad tím, co agenti dělají a v momentě, kdy poruší pravidla, budou za to okamžitě potrestáni. Nvidia technologii staví jako 100% opensource a to nejen z hlediska software, ale do svého hadware ji budou mít možnost zahrnout také výrobic jako je Intel, Arm nebo například Apple v rámci svých mobilních čipů.
