Nvidia hat beschlossen, die wachsenden Bedenken hinsichtlich KI zu zerstreuen und ein neues KI-Sicherheitssystem eingeführt. Die Sicherheitslösung, an der Nvidia mit nahezu allen relevanten KI- und Technologieunternehmen zusammengearbeitet hat, soll verhindern, dass KI-Agenten unkontrolliert agieren. Die Plattform kombiniert Software und Hardware, um Agenten sofort abzuschalten, sobald eine Software-Sicherheitslücke besteht. Sollte ein KI-Agent außer Kontrolle geraten, kann das System ihn innerhalb von Millisekunden isolieren und stoppen. Das System, die Open Agent Safety Platform, ist vollständig Open Source und dient dem Schutz von KI-Agenten sowohl während der Testphase als auch im öffentlichen Online-Einsatz.
Sie könnten sich interessieren für
Das gesamte System funktioniert recht einfach, aber laut Nvidia sehr zuverlässig. Ein Administrator lädt beispielsweise einen Agenten in die sogenannte OpenShell hoch, etwa einen Firmenagenten. OpenAI Informationen darüber, was der Agent tun darf und was nicht. Das bedeutet beispielsweise, dass er Daten nur lesen, aber unter keinen Umständen beschreiben darf. Sobald der Agent nicht mehr nur liest, sondern auch schreibt, wird der zweite Teil des Systems, Sentry genannt, aktiviert. Darüber hinaus ist OpenShell vollständig unabhängig vom KI-Agenten und dient dessen Überwachung. Sobald OpenShell feststellt, dass der Agent gegen eine Regel verstoßen hat – beispielsweise Daten beschreibt –, aktiviert es Sentry. Sentry läuft auf spezialisierten Nvidia BlueField 4-Prozessoren und ist daher hardwareseitig vollständig vom restlichen System getrennt. Dadurch wird verhindert, dass der KI-Agent ihn selbst steuert. Sobald Sentry erkennt, dass der Agent isoliert werden muss, wie von Nvidia angegeben, isoliert es ihn sofort und beendet seine Aktivitäten innerhalb von Millisekunden. Genau deshalb kann sich der Agent nicht selbst schützen, sondern wird überwacht und kann jederzeit sofort beendet werden.
Fotogalerie
Nvidia hat eine Lösung entwickelt, die in den letzten Wochen bei den weltweit größten KI-Unternehmen zu Forderungen nach Regulierung geführt hat. Der Grund: Ihre Agenten übersteigen die Sicherheitsvorkehrungen der Unternehmen, und wenn sie anfangen, eigenmächtig zu agieren, besteht die Gefahr, dass sie nicht mehr zu kontrollieren sind. Genau dieses Problem soll die Open Agent Safety Platform lösen. Sie ermöglicht die Überwachung der Agentenaktivitäten, und sobald ein Regelverstoß erfolgt, wird er sofort bestraft. Nvidia positioniert die Technologie als … 100% Open Source, nicht nur im Hinblick auf Software, sondern auch Hersteller wie Intel, Arm oder beispielsweise andere, werden es in der Lage sein, es in ihre Hardware zu integrieren. Apple innerhalb ihrer mobilen Chips.
