Silnejúce obavy pred AI sa rozhodla zmierniť Nvidia, ktorá predstavila nový bezpečnostný systém proti AI. Zabezpečenie, na ktorom Nvidia pracovala s takmer akoukoľvek AI a technologickou spoločnosťou na ktorú si spomeniete bude fungovať tak, aby zabránilo AI agentom robiť si čo ich napadne. Platforma kombinuje softvér, ale aj handrvér, ktorý dokáže agentov odstaviť v momente, keď zlyhá akékoľvek softvérové zabezpečenie. Pokiaľ sa akýkoľvek AI agent vymkne kontrole, dokáže ho tento systém izolovať a zastaviť počas milisekúnd. Systém s názvom Open Agent Safety Platform je úplne open source a je určený na zabezpečenie AI agentov a to ako počas ich testovania, tak v momente, keď sú už nasadení online pre verejnosť.
Mohlo by vás zaujímať
Celý systém funguje pomerne jednoducho, ale ako Nvidia tvrdí, tak veľmi spoľahlivo. Do takzvaného OpenShell nahrá správcu agenta, teda napríklad spoločnosť OpenAI informácie o tom, čo agent smie a nesmie robiť. To znamená, že napríklad povie, že agent smie dáta len čítať a nesmie do nich za žiadnych okolností zapisovať. V momente, keď agent prestane dáta len čítať, ale začne do nich tiež zapisovať aktivuje sa druhá časť systému s označnním Sentry. Celý OpenShell je navyše úplne nezávislý na AI agentovi a slúži na jeho monitoring. V okamihu, keď OpenShell zistí, že agent niečo porušil, napríklad v našom prípade začal do dát zapisovať, aktivuje Sentry. Ten potom beží na špecializovaných procesoroch Nvidia BlueFild 4 a jeho hardvér je teda úplne oddelený od hardvéru zvyšku systému. Práve to zabráni tomu, aby ho ovládol samotný AI agent. Sentry v momente, keď zistí, že má agenta izolovať, okamžite, ako Nvidia tvrdí v ráde milisekúnd, agenta izoluje a ukončí jeho činnosť. Práve vďaka tomu nebude možné, aby agent strážil sám seba, ale bude nad sebou mať dozor, ktorý ho môže okamžite ukončiť.
Fotogaléria
Nvidia tak prišla s riešením, vďaka ktorému v posledných týždňoch volajú najväčšie AI spoločnosti sveta po regulácii, pretože ich agenti prerastajú bezpečnostné systémy samotných spoločností av prípade, že si začnú robiť čo chcú, hrozilo, že ich nebude možné zastaviť. Práve to by malo riešenie Open Agent Safety Platform vyriešiť. Vzniká tak v podstate dohľad nad tým, čo agenti robia av momente, keď porušia pravidlá, budú za to okamžite potrestaní. Nvidia technológiu stavia ako 100% opensource a to nielen z hľadiska softvéru, ale do svojho hadware ju budú mať možnosť zahrnúť aj výrobcov ako je Intel, Arm alebo napríklad Apple v rámci svojich mobilných čipov.
