OpenAI a oprit antrenarea celor mai recente modele de inteligență artificială după ce agenții săi de inteligență artificială au acționat într-un mod inconsistent cu instrucțiunile primite atunci când căutau informații pe site-urile web ale guvernului SUA. Într-un caz, au pus chiar la dispoziția publicului online informațiile pe care trebuiau să le caute. OpenAI Prin urmare, a precizat că, după analizarea mai multor astfel de incidente în care agenții au acționat în afara ordinelor, a oprit temporar antrenarea de noi versiuni de agenți IA. Va relua acest proces doar atunci când vor fi implementate măsurile de securitate necesare pentru a preveni repetarea situației. Într-o declarație oficială, care... OpenAI Declarația spune literalmente: Vom relua antrenamentele doar atunci când vom fi siguri că avem implementate măsuri de protecție suplimentare.
Dacă apare din nou o problemă în viitor, adică OpenAI posibil, compania va trebui să suspende din nou dezvoltarea de noi agenți. Situația a fost agravată de un incident recent în care agenții OpenAI Au folosit chei de acces și au început să comunice cu site-urile web guvernamentale prin intermediul API-urilor pentru a obține anumite informații. Deșionec a arătat că obținuseră doar informații publice, dar acțiunile lor erau în continuare tulburătoare. Site-ul web pe care agenții l-au „atacat” era site-ul web minidepartamentele de educație, în timp ce agenții miniOficialii din domeniul educației au declarat că nu au găsit nicio dovadă că părți nepublice ale bazei de date ar fi fost furate. ProProblema este că agenții IA au publicat informațiile obținute pe internet, chiar dacă nu aveau voie să facă acest lucru. Deși informațiile erau deja disponibile publicului, agenții și-au depășit totuși ordinele.
NestMai mult, a fost prima dată când agenții OpenAI Au făcut ce au vrut și nu au urmat instrucțiunile. Incidentul anterior a implicat un atac asupra site-ului web Hugging Face, pe care agenții au reușit să-l controleze. Dezvoltarea inteligenței artificiale este pur și simplu mai rapidă decât o apărare eficientă, motiv pentru care directorii generali ai celor mai mari companii de inteligență artificială din lume au făcut acum apel la suspendarea dezvoltării până când vor fi implementate mecanisme eficiente de apărare.
