Firma Nvidia postanowiła rozwiać rosnące obawy dotyczące sztucznej inteligencji (AI), wprowadzając nowy system bezpieczeństwa AI. System, nad którym Nvidia współpracowała z niemal każdą firmą z branży AI i technologii, jaki można sobie wyobrazić, będzie zapobiegał wykonywaniu przez agentów AI dowolnych działań. Platforma łączy w sobie oprogramowanie, ale także sprzęt, które może wyłączyć agentów w momencie awarii zabezpieczeń oprogramowania. Jeśli którykolwiek z agentów AI wymknie się spod kontroli, system może go odizolować i zatrzymać w ciągu milisekund. System o nazwie Open Agent Safety Platform jest w pełni open source i został zaprojektowany w celu zabezpieczenia agentów AI zarówno podczas testów, jak i po ich udostępnieniu publicznie.
Może cię zainteresować
Cały system działa dość prosto, ale jak twierdzi Nvidia, bardzo niezawodnie. Administrator wgrywa agenta do tzw. OpenShell, np. w firmie. OpenAI Informacje o tym, co agent może, a czego nie może zrobić. Oznacza to na przykład, że agent może tylko odczytywać dane i nie może do nich zapisywać w żadnych okolicznościach. W momencie, gdy agent przestaje tylko odczytywać dane, ale zaczyna również zapisywać, aktywowana jest druga część systemu oznaczona jako Sentry. Co więcej, cały OpenShell jest całkowicie niezależny od agenta AI i służy do jego monitorowania. W momencie, gdy OpenShell wykryje, że agent naruszył coś, na przykład w naszym przypadku rozpoczął zapis danych, aktywuje Sentry. Działa on wówczas na wyspecjalizowanych procesorach Nvidia BlueFild 4, a jego sprzęt jest całkowicie oddzielony od sprzętu reszty systemu. To właśnie uniemożliwia agentowi AI kontrolowanie go. W momencie, gdy Sentry wykryje, że powinien odizolować agenta, jak twierdzi Nvidia, natychmiast izoluje agenta i kończy jego działanie w ciągu milisekund. Właśnie z tego powodu agent nie będzie mógł się sam chronić, ale będzie miał nad nim nadzór, który może go natychmiast zakończyć.
Fotogaleria
Firma Nvidia opracowała rozwiązanie, które w ostatnich tygodniach wywołało apele największych firm z branży sztucznej inteligencji (AI) o wprowadzenie regulacji. Ich agenci wyrastają bowiem z systemów bezpieczeństwa tych firm i jeśli zaczną robić, co im się żywnie podoba, istnieje ryzyko, że nie będzie można ich powstrzymać. Właśnie ten problem ma rozwiązać platforma Open Agent Safety Platform. W istocie zapewnia ona nadzór nad działaniami agentów, a w przypadku złamania zasad zostaną oni natychmiast ukarani. Nvidia pozycjonuje tę technologię jako… 100% open source nie tylko w odniesieniu do oprogramowania, ale producenci tacy jak Intel, Arm czy na przykład będą mogli włączyć je również do swojego sprzętu Apple w ich mobilnych układach scalonych.
