Nvidia реши да облекчи нарастващите опасения относно изкуствения интелект (ИИ), като въведе нова система за сигурност, основана на ИИ. Сигурността, по която Nvidia е работила с почти всяка компания за ИИ и технологии, за която можете да се сетите, ще работи, за да попречи на ИИ агентите да правят каквото си поискат. Платформата комбинира софтуер, но и хардуер, който може да изключи агентите в момента, в който софтуерната сигурност се повреди. Ако някой ИИ агент излезе извън контрол, тази система може да го изолира и спре за милисекунди. Системата, наречена Open Agent Safety Platform, е с напълно отворен код и е проектирана да защитава ИИ агентите както по време на тяхното тестване, така и когато те вече са разположени онлайн за обществеността.
Може да се интересувате от
Цялата система работи доста просто, но както Nvidia твърди, много надеждно. Администратор качва агент в така наречения OpenShell, например на компания. OpenAI информация за това какво може и какво не може да прави агентът. Това означава например, че се казва, че агентът може само да чете данни и не може да записва в тях при никакви обстоятелства. В момента, в който агентът спре само да чете данни, но и започне да записва в тях, се активира втората част на системата, обозначена като Sentry. Освен това, целият OpenShell е напълно независим от AI агента и служи за неговото наблюдение. В момента, в който OpenShell открие, че агентът е нарушил нещо, например в нашия случай е започнал да записва в данни, той активира Sentry. След това той работи на специализирани Nvidia BlueFild 4 процесори и следователно хардуерът му е напълно отделен от хардуера на останалата част от системата. Това е, което ще попречи на самия AI агент да го контролира. В момента, в който Sentry открие, че трябва да изолира агента, както твърди Nvidia, той незабавно изолира агента и прекратява дейността му в рамките на милисекунди. Именно поради това агентът няма да може да се защити, но ще има надзор над него, който може да го прекрати незабавно.
Фото галерия
Nvidia предложи решение, което доведе до призиви за регулиране от най-големите компании за изкуствен интелект в света през последните седмици, тъй като техните агенти надрастват собствените системи за сигурност на компаниите и ако започнат да правят каквото си поискат, съществува риск да бъдат невъзможни за спиране. Именно това трябва да реши решението Open Agent Safety Platform. Това по същество създава надзор върху това, което правят агентите, и в момента, в който нарушат правилата, те ще бъдат незабавно наказани. Nvidia позиционира технологията като 100% отворен код, не само по отношение на софтуера, но и производители като Intel, Arm или например ще могат да го включат в своя хардуер Apple в рамките на мобилните им чипове.
