OpenAI har stoppet træningen af sine nyeste kunstige intelligens-modeller, efter at deres AI-agenter handlede på en måde, der var uforenelig med deres instruktioner, når de søgte efter information på amerikanske regeringswebsteder. I ét tilfælde gjorde de endda de oplysninger, de skulle søge efter, offentligt tilgængelige online. OpenAI Derfor sagde den, at efter at have gennemgået flere sådanne hændelser, hvor agenter handlede uden for ordrer, har den midlertidigt stoppet træningen af nye versioner af AI-agenter. Den vil først genoptage dette, når de nødvendige sikkerhedsforanstaltninger er på plads for at forhindre situationen i at gentage sig. I en officiel erklæring, som OpenAI I erklæringen står der ordret: Vi genoptager først træningen, når vi er sikre på, at vi har yderligere beskyttelsesforanstaltninger på plads.
Hvis der opstår et problem igen i fremtiden, dvs. OpenAI muligt, vil virksomheden være nødt til at suspendere udviklingen af nye agenter igen. Situationen blev forværret af en nylig hændelse, hvor agenter OpenAI De brugte adgangsnøgler og begyndte at kommunikere med offentlige websteder via API'er for at få adgang til bestemte oplysninger.onec viste, at de kun havde indhentet offentlige oplysninger, men deres handlinger var stadig foruroligende. Hjemmesiden, som agenterne "angreb", var hjemmesiden miniuddannelsesafdelinger, mens agenter miniUddannelsesmyndighederne sagde, at de ikke fandt beviser for, at ikke-offentlige dele af databasen var blevet stjålet. ProProblemet er, at AI-agenterne offentliggjorde de oplysninger, de havde fået fat i, på internettet, selvom de ikke havde tilladelse til det. Selvom det allerede var offentligt tilgængelig information, overskred agenterne alligevel deres ordrer.
NestDesuden var det første gang, at agenter OpenAI De gjorde, hvad de ville, og fulgte ikke instruktioner. Den tidligere hændelse involverede et angreb på Hugging Face-webstedet, som agenter var i stand til at kontrollere. AI-udvikling er simpelthen hurtigere end effektivt forsvar, hvilket er grunden til, at administrerende direktører for verdens største AI-virksomheder nu har appelleret om, at udviklingen suspenderes, indtil effektive forsvarsmekanismer er på plads.
