Нвидиа је одлучила да ублажи растућу забринутост због вештачке интелигенције, уводећи нови систем безбедности вештачке интелигенције. Безбедност, на којој је Нвидиа сарађивала са скоро сваком компанијом за вештачку интелигенцију и технологију коју можете да замислите, спречиће агенте вештачке интелигенције да раде шта год желе. Платформа комбинује софтвер, али и хардвер, који може да искључи агенте у тренутку када било која софтверска безбедност откаже. Ако било који агент вештачке интелигенције измакне контроли, овај систем може да га изолује и заустави у милисекундама. Систем, назван Open Agent Safety Platform, је потпуно отвореног кода и дизајниран је да обезбеди агенте вештачке интелигенције како током њиховог тестирања, тако и када су већ распоређени онлајн за јавност.
Могли бисте бити заинтересовани
Читав систем функционише прилично једноставно, али како Nvidia тврди, веома поуздано. Администратор отпрема агента у такозвани OpenShell, на пример, компанију OpenAI информације о томе шта агент може, а шта не може да ради. То значи, на пример, да каже да агент може само да чита податке и да ни под којим условима не може да пише у њих. У тренутку када агент престане само да чита податке, већ и да почне да пише у њих, активира се други део система означен као Sentry. Штавише, цео OpenShell је потпуно независан од AI агента и служи за његово праћење. У тренутку када OpenShell детектује да је агент нешто прекршио, на пример, у нашем случају, почео је да пише у податке, активира Sentry. Он затим ради на специјализованим Nvidia BlueFild 4 процесорима и његов хардвер је стога потпуно одвојен од хардвера остатка система. То је оно што ће спречити самог AI агента да га контролише. У тренутку када Sentry детектује да треба да изолује агента, како Nvidia тврди, он одмах изолује агента и прекида његове активности у року од милисекунди. Управо због тога агент неће моћи да се заштити, али ће имати надзор над њим који га може одмах прекинути.
Фотогалерие
Нвидиа је смислила решење које је последњих недеља довело до позива на регулацију од стране највећих светских компанија за вештачку интелигенцију, јер њихови агенти прерастају сопствене безбедносне системе компанија и ако почну да раде шта год желе, постоји ризик да ће их бити немогуће зауставити. Управо то би требало да реши решење Open Agent Safety Platform. Ово у суштини ствара надзор над оним што агенти раде и у тренутку када прекрше правила, биће одмах кажњени. Нвидиа позиционира технологију као 100% отвореног кода, не само у погледу софтвера, већ ће произвођачи попут Интела, Арма или, на пример, моћи да га укључе у свој хардвер Apple унутар њихових мобилних чипова.
