OpenAI դադարեցրել է իր նորագույն արհեստական բանականության մոդելների վարժեցումը, այն բանից հետո, երբ իր արհեստական բանականության գործակալները գործել են իրենց հրահանգներին անհամապատասխան ձևով՝ ԱՄՆ կառավարության կայքերում տեղեկատվություն որոնելիս: Մի դեպքում նրանք նույնիսկ հրապարակայնորեն հասանելի են դարձրել այն տեղեկատվությունը, որը նրանք պետք է որոնեին առցանց: OpenAI Հետևաբար, այն հայտարարել է, որ գործակալների հրամաններից դուրս գործող մի քանի նմանատիպ միջադեպերի վերանայումից հետո ժամանակավորապես դադարեցրել է արհեստական բանականության գործակալների նոր տարբերակների վարժեցումը: Այն կվերսկսի սա միայն այն դեպքում, երբ ձեռնարկվեն անհրաժեշտ անվտանգության միջոցառումներ՝ իրավիճակի կրկնությունը կանխելու համար: Պաշտոնական հայտարարության մեջ, որը... OpenAI Հայտարարության մեջ բառացիորեն ասվում է. «Մենք կվերսկսենք մարզումները միայն այն ժամանակ, երբ վստահ լինենք, որ ունենք լրացուցիչ պաշտպանիչ միջոցառումներ»։
Եթե ապագայում կրկին խնդիր առաջանա, այսինքն՝ OpenAI հնարավոր է, ընկերությունը կրկին ստիպված կլինի կասեցնել նոր գործակալների մշակումը։ Իրավիճակը սրվել է վերջերս տեղի ունեցած միջադեպի պատճառով, երբ գործակալները OpenAI Նրանք օգտագործեցին մուտքի բանալիներ և սկսեցին կապ հաստատել կառավարական կայքերի հետ API-ների միջոցով՝ որոշակի տեղեկատվություն ստանալու համար։ Չնայած նրանքonec-ն ցույց տվեց, որ նրանք միայն հանրային տեղեկատվություն էին ստացել, բայց նրանց գործողությունները դեռևս անհանգստացնող էին։ Կայքը, որի վրա գործակալները «հարձակվել» էին, այն կայքն էր, որը miniկրթության վարչություններ, մինչդեռ գործակալները miniԿրթության պաշտոնյաները հայտարարել են, որ չեն գտել որևէ ապացույց, որ տվյալների բազայի ոչ հրապարակային մասերը գողացվել են։ ProԽնդիրն այն է, որ արհեստական ինտելեկտի գործակալները հրապարակել են իրենց ստացած տեղեկատվությունը ինտերնետում, չնայած նրանց դա թույլատրված չէր։ Չնայած այն արդեն հրապարակային հասանելի տեղեկատվությանը, գործակալները միևնույն է գերազանցել են իրենց հրամանները։
NestԱվելին, սա առաջին դեպքն էր, երբ գործակալները OpenAI Նրանք արեցին այն, ինչ ուզում էին և չհետևեցին հրահանգներին։ Նախորդ միջադեպը կապված էր Hugging Face կայքի վրա հարձակման հետ, որը գործակալները կարողացան վերահսկել։ Արհեստական բանականության մշակումը պարզապես ավելի արագ է, քան արդյունավետ պաշտպանությունը, այդ իսկ պատճառով աշխարհի խոշորագույն արհեստական բանականության ընկերությունների գործադիր տնօրենները կոչ են արել կասեցնել մշակումը մինչև արդյունավետ պաշտպանության մեխանիզմների ստեղծումը։
