Nvidia, yapay zekâya ilişkin artan endişeleri gidermek amacıyla yeni bir yapay zekâ güvenlik sistemi geliştirdi. Nvidia'nın neredeyse akla gelebilecek her yapay zekâ ve teknoloji şirketiyle birlikte geliştirdiği bu güvenlik sistemi, yapay zekâ ajanlarının istediklerini yapmalarını engellemeyi amaçlıyor. Platform, yazılım güvenliğinin başarısız olduğu anda ajanları kapatabilen yazılımın yanı sıra donanımı da birleştiriyor. Herhangi bir yapay zekâ ajanı kontrolden çıkarsa, bu sistem onu milisaniyeler içinde izole edip durdurabiliyor. Açık Ajan Güvenlik Platformu (Open Agent Safety Platform) adı verilen sistem tamamen açık kaynaklı olup, yapay zekâ ajanlarını hem test aşamasında hem de halka açık çevrimiçi dağıtım aşamasında güvence altına almak üzere tasarlanmıştır.
İlginizi çekebilir
Tüm sistem oldukça basit çalışıyor, ancak Nvidia'nın iddia ettiği gibi çok güvenilir. Bir yönetici, örneğin bir şirket, OpenShell adı verilen ortama bir ajan yüklüyor. OpenAI Ajanın neler yapabileceği ve neler yapamayacağı hakkında bilgi. Bu, örneğin, ajanın yalnızca veri okuyabileceğini ve hiçbir koşulda veri yazamayacağını belirtir. Ajan yalnızca veri okumayı bırakıp aynı zamanda veri yazmaya başladığı anda, Sentry olarak etiketlenen sistemin ikinci kısmı devreye girer. Dahası, OpenShell'in tamamı yapay zeka ajanından tamamen bağımsızdır ve onu izlemek için kullanılır. OpenShell, ajanın bir şeyi ihlal ettiğini, örneğin bizim durumumuzda veri yazmaya başladığını tespit ettiği anda Sentry'yi etkinleştirir. Ardından, özel Nvidia BlueFild 4 işlemcilerinde çalışır ve donanımı bu nedenle sistemin geri kalanının donanımından tamamen ayrıdır. Bu, yapay zeka ajanının kendisinin onu kontrol etmesini engelleyecektir. Nvidia'nın iddia ettiği gibi, Sentry ajanı izole etmesi gerektiğini tespit ettiği anda, ajanı hemen izole eder ve faaliyetlerini milisaniyeler içinde sonlandırır. Tam olarak bu nedenle, ajanın kendini koruması mümkün olmayacak, ancak onu anında sonlandırabilecek bir gözetim altında olacaktır.
Fotoğraf Galeri
Nvidia, son haftalarda dünyanın en büyük yapay zeka şirketlerinin düzenleme çağrılarına yol açan bir çözüm geliştirdi; çünkü yapay zeka ajanları şirketlerin kendi güvenlik sistemlerini aşıyor ve istediklerini yapmaya başlarlarsa durdurulmaları imkansız hale gelebilir. Açık Ajan Güvenlik Platformu çözümü tam olarak bunu çözmeyi amaçlıyor. Bu platform, ajanların yaptıklarının denetimini sağlıyor ve kuralları çiğnedikleri anda anında cezalandırılıyorlar. Nvidia, bu teknolojiyi şu şekilde konumlandırıyor: 100% Açık kaynak kodlu yazılımlar sadece yazılım açısından değil, Intel, Arm gibi üreticiler tarafından da donanımlarına entegre edilebilecek. Apple mobil çiplerinin içinde.
