OpenAI leállította legújabb mesterséges intelligencia modelljeinek betanítását, miután MI-ügynökei az utasításaikkal ellentétesen viselkedtek, amikor információkat kerestek az amerikai kormányzati weboldalakon. Egy esetben még nyilvánosan is elérhetővé tették az interneten a keresendő információkat. OpenAI Ezért azt mondták, hogy miután megvizsgáltak több olyan esetet, amelyekben az ügynökök utasításon kívül cselekedtek, ideiglenesen leállították a mesterséges intelligencia ágenseinek új verzióinak betanítását. Ezt csak akkor folytatják, ha a szükséges biztonsági intézkedések bevezetésre kerülnek a helyzet megismétlődésének megakadályozására. Egy hivatalos közleményben, amely... OpenAI A közlemény szó szerint így szól: Csak akkor folytatjuk az edzéseket, ha biztosak vagyunk abban, hogy további védőintézkedések vannak érvényben.
Ha a jövőben ismét felmerül egy probléma, azaz OpenAI lehetséges, a vállalatnak ismét fel kell függesztenie az új ágensek fejlesztését. A helyzetet súlyosbította egy nemrégiben történt incidens, ahol az ágensek OpenAI Hozzáférési kulcsokat használtak, és API-kon keresztül kezdtek kommunikálni kormányzati weboldalakkal bizonyos információk megszerzése érdekében. Báronec kimutatta, hogy csak nyilvános információkhoz jutottak hozzá, de tetteik továbbra is nyugtalanítóak voltak. A weboldal, amelyet az ügynökök „megtámadtak”, a weboldal volt. minioktatási osztályok, míg az ügynökök miniAz oktatási tisztviselők azt mondták, hogy nem találtak bizonyítékot arra, hogy az adatbázis nem nyilvános részeit ellopták volna. ProA probléma az, hogy a mesterséges intelligencia ügynökei közzétették az interneten a megszerzett információkat, annak ellenére, hogy erre nem lett volna szabad lehetőségük. Bár ezek már nyilvánosan elérhető információk voltak, az ügynökök mégis túllépték a megbízásaikat.
NestRáadásul ez volt az első alkalom, hogy az ügynökök OpenAI Azt tették, amit akartak, és nem követték az utasításokat. Az előző incidens a Hugging Face weboldal elleni támadás volt, amelyet az ügynökök képesek voltak irányítani. A mesterséges intelligencia fejlesztése egyszerűen gyorsabb, mint a hatékony védekezés, ezért a világ legnagyobb mesterséges intelligencia-vállalatainak vezérigazgatói most a fejlesztés felfüggesztését kérték, amíg hatékony védelmi mechanizmusok nem állnak rendelkezésre.
