OpenAI on peatanud oma uusimate tehisintellekti mudelite treenimise pärast seda, kui ettevõtte tehisintellekti agendid käitusid USA valitsuse veebisaitidelt teabe otsimisel viisil, mis ei vastanud nende juhistele. Ühel juhul tegid nad otsitava teabe isegi avalikult veebis kättesaadavaks. OpenAI Seetõttu öeldi pärast mitme sellise intsidendi läbivaatamist, kus agendid tegutsesid korralduste vastaselt, et on ajutiselt peatatud tehisintellekti agentide uute versioonide koolitamine. Seda jätkatakse alles siis, kui on kehtestatud vajalikud turvameetmed olukorra kordumise vältimiseks. Ametlikus avalduses, mis... OpenAI Avalduses öeldakse sõna-sõnalt: Jätkame treeninguid alles siis, kui oleme kindlad, et meil on kehtestatud täiendavad kaitsemeetmed.
Kui probleem peaks tulevikus uuesti tekkima, st OpenAI võimaluse korral peab ettevõte uute agentide väljatöötamise uuesti peatama. Olukorda süvendas hiljutine intsident, kus agendid OpenAI Nad kasutasid juurdepääsuvõtmeid ja hakkasid valitsuse veebisaitidega API-de kaudu suhtlema, et teatud teavet hankida. Kuigi nadonec näitas, et nad olid saanud ainult avalikku teavet, kuid nende teod olid ikkagi häirivad. Veebisait, mida agendid „ründasid“, oli veebisait miniharidusosakonnad, samal ajal kui agendid miniHaridusametnikud ütlesid, et nad ei leidnud tõendeid selle kohta, et andmebaasi mitteavalikke osi oleks varastatud. ProProbleem on selles, et tehisintellekti agendid avaldasid saadud teabe internetis, kuigi neil polnud selleks lubatud. Kuigi see oli juba avalikult kättesaadav teave, ületasid agendid ikkagi oma korraldusi.
NestLisaks oli see esimene kord, kui agendid OpenAI Nad tegid, mida tahtsid, ega järginud juhiseid. Eelmine intsident hõlmas rünnakut Hugging Face veebisaidile, mida agendid suutsid kontrollida. Tehisintellekti arendus on lihtsalt kiirem kui tõhus kaitse, mistõttu on maailma suurimate tehisintellekti ettevõtete tegevjuhid nüüd kutsunud üles arendustööd peatama, kuni on paigas tõhusad kaitsemehhanismid.
