Nvidia on päättänyt lievittää kasvavaa huolta tekoälystä esittelemällä uuden tekoälyturvajärjestelmän. Turvallisuus, jonka parissa Nvidia on työskennellyt lähes jokaisen kuviteltavissa olevan tekoäly- ja teknologiayrityksen kanssa, estää tekoälyagentteja tekemästä mitä tahansa. Alusta yhdistää ohjelmiston lisäksi myös laitteiston, joka voi sammuttaa agentit heti, kun ohjelmistoturvallisuus pettää. Jos jokin tekoälyagentti riistäytyy käsistä, tämä järjestelmä voi eristää ja pysäyttää sen millisekunneissa. Open Agent Safety Platformiksi kutsuttu järjestelmä on täysin avoimen lähdekoodin ja se on suunniteltu suojaamaan tekoälyagentteja sekä testauksen aikana että silloin, kun ne ovat jo julkisesti saatavilla.
Saatat olla kiinnostunut
Koko järjestelmä toimii melko yksinkertaisesti, mutta kuten Nvidia väittää, erittäin luotettavasti. Ylläpitäjä lataa agentin niin kutsuttuun OpenShelliin, esimerkiksi yrityksen OpenAI tietoa siitä, mitä agentti voi ja ei voi tehdä. Tämä tarkoittaa esimerkiksi sitä, että se sanoo agentin voivan vain lukea dataa eikä voi kirjoittaa siihen missään olosuhteissa. Heti kun agentti lopettaa vain datan lukemisen ja alkaa myös kirjoittaa siihen, järjestelmän toinen osa, Sentry, aktivoituu. Lisäksi koko OpenShell on täysin riippumaton tekoälyagentista ja valvoo sitä. Heti kun OpenShell havaitsee, että agentti on rikkonut jotakin, esimerkiksi meidän tapauksessamme, se on alkanut kirjoittaa dataan, se aktivoi Sentryn. Sen jälkeen se toimii erikoistuneilla Nvidia BlueFild 4 -prosessoreilla, ja sen laitteisto on siksi täysin erillinen muun järjestelmän laitteistosta. Tämä estää itse tekoälyagenttia hallitsemasta sitä. Heti kun Sentry havaitsee, että sen pitäisi eristää agentti, kuten Nvidia väittää, se eristää agentin välittömästi ja lopettaa sen toiminnan millisekuntien kuluessa. Juuri tästä syystä agentti ei pysty suojaamaan itseään, mutta sillä on valvonta, joka voi lopettaa sen välittömästi.
Fotogalerie
Nvidia on keksinyt ratkaisun, joka on johtanut viime viikkoina maailman suurimpien tekoälyyritysten sääntelyvaatimuksiin, koska niiden agentit ovat kasvamassa ulos yritysten omista turvajärjestelmistä, ja jos he alkavat tehdä mitä tahansa, on olemassa riski, että heitä on mahdotonta pysäyttää. Juuri tämän ongelman Open Agent Safety Platform -ratkaisun pitäisi ratkaista. Se luo valvonnan agenttien toiminnasta, ja heti kun he rikkovat sääntöjä, heitä rangaistaan välittömästi. Nvidia asettaa teknologian 100% avoimen lähdekoodin ohjelmistoja, ei vain ohjelmistojen osalta, vaan valmistajat, kuten Intel, Arm tai esimerkiksi, voivat myös sisällyttää sen laitteistoonsa Apple heidän mobiilisirujensa sisällä.
