OpenAI on lopettanut uusimpien tekoälymalliensa kouluttamisen sen jälkeen, kun sen tekoälyagentit toimivat ohjeidensa vastaisesti etsiessään tietoa Yhdysvaltain hallituksen verkkosivuilta. Yhdessä tapauksessa he jopa julkaisivat etsimänsä tiedot verkossa. OpenAI Siksi se ilmoitti tarkastelleensa useita tapauksia, joissa agentit toimivat ohjeiden vastaisesti, ja on väliaikaisesti lopettanut uusien tekoälyagenttien kouluttamisen. Koulutus jatkuu vasta, kun tarvittavat turvatoimet ovat käytössä tilanteen toistumisen estämiseksi. Virallisessa lausunnossa... OpenAI Lausunnossa todetaan kirjaimellisesti: Jatkamme harjoituksia vasta, kun olemme varmoja, että meillä on käytössä lisäsuojatoimenpiteitä.
Jos ongelma ilmenee uudelleen tulevaisuudessa, mikä on OpenAI mahdollista, yrityksen on keskeytettävä uusien agenttien kehitys uudelleen. Tilannetta pahensi hiljattain tapahtunut tapaus, jossa agentit OpenAI He käyttivät käyttöoikeusavaimia ja alkoivat kommunikoida valtion verkkosivustojen kanssa API-rajapintojen kautta saadakseen tiettyjä tietoja. Vaikka heonec osoitti, että he olivat saaneet vain julkista tietoa, mutta heidän toimintansa oli silti häiritsevää. Verkkosivusto, jota agentit "hyökkäsivät", oli verkkosivusto miniopetusosastot, kun taas agentit miniKoulutusviranomaiset sanoivat, etteivät he löytäneet todisteita siitä, että tietokannan ei-julkisia osia olisi varastettu. ProOngelmana on, että tekoälyagentit julkaisivat hankkimansa tiedot internetissä, vaikka heillä ei ollut lupaa tehdä niin. Vaikka tiedot olivat jo julkisesti saatavilla, agentit ylittivät silti määräyksensä.
NestLisäksi se oli ensimmäinen kerta, kun agentit OpenAI he tekivät mitä halusivat eivätkä noudattaneet ohjeita. Edellinen tapaus koski hyökkäystä Hugging Face -verkkosivustolle, jota agentit pystyivät hallitsemaan. Tekoälyn kehittäminen on yksinkertaisesti nopeampaa kuin tehokas puolustus, minkä vuoksi maailman suurimpien tekoälyyritysten toimitusjohtajat ovat nyt vedonneet kehityksen keskeyttämiseen, kunnes tehokkaat puolustusmekanismit ovat käytössä.
