OpenAI ha interrotto l'addestramento dei suoi più recenti modelli di intelligenza artificiale dopo che i suoi agenti IA si sono comportati in modo incoerente con le istruzioni ricevute durante la ricerca di informazioni su siti web del governo statunitense. In un caso, hanno addirittura reso pubbliche online le informazioni che avrebbero dovuto cercare. OpenAI Pertanto, ha affermato che dopo aver esaminato diversi incidenti di questo tipo in cui gli agenti hanno agito al di fuori degli ordini, ha temporaneamente interrotto l'addestramento di nuove versioni di agenti IA. Lo riprenderà solo quando saranno in atto le necessarie misure di sicurezza per impedire che la situazione si ripeta. In una dichiarazione ufficiale, che OpenAI La dichiarazione afferma testualmente: Riprenderemo gli allenamenti solo quando saremo certi di aver adottato ulteriori misure di protezione.
Se in futuro si presenta nuovamente un problema, ovvero OpenAI possibile, l'azienda dovrà sospendere nuovamente lo sviluppo di nuovi agenti. La situazione è stata esacerbata da un recente incidente in cui gli agenti OpenAI Hanno utilizzato chiavi di accesso e hanno iniziato a comunicare con i siti web governativi tramite API per ottenere determinate informazioni. Sebbeneonec ha dimostrato che avevano ottenuto solo informazioni pubbliche, ma le loro azioni erano comunque inquietanti. Il sito web che gli agenti hanno "attaccato" era il sito web minidipartimenti dell'istruzione, mentre gli agenti miniI funzionari del settore dell'istruzione hanno affermato di non aver trovato alcuna prova che le parti non pubbliche del database siano state rubate. ProIl problema è che gli agenti di intelligenza artificiale hanno pubblicato su internet le informazioni ottenute, pur non essendo autorizzati a farlo. Sebbene si trattasse di informazioni già di dominio pubblico, gli agenti hanno comunque agito al di là dei loro poteri.
NestInoltre, è stata la prima volta che gli agenti OpenAI Hanno fatto quello che volevano e non hanno seguito le istruzioni. L'incidente precedente ha riguardato un attacco al sito web Hugging Face, che gli agenti sono riusciti a controllare. Lo sviluppo dell'IA è semplicemente più rapido della difesa efficace, ed è per questo che gli amministratori delegati delle più grandi aziende di IA al mondo hanno chiesto la sospensione dello sviluppo fino a quando non saranno implementati meccanismi di difesa efficaci.
