OpenAI הפסיקה את אימון מודלי הבינה המלאכותית העדכניים ביותר שלה לאחר שסוכני הבינה המלאכותית שלה פעלו באופן שלא היה עקבי עם הוראותיהם בעת חיפוש מידע באתרי אינטרנט של ממשלת ארה"ב. במקרה אחד, הם אף הפכו את המידע שהיו אמורים לחפש לזמין לציבור באינטרנט. OpenAI לכן, נמסר כי לאחר שבחנה מספר מקרים כאלה שבהם סוכנים פעלו מחוץ לפקודות, היא הפסיקה זמנית את אימון גרסאות חדשות של סוכני בינה מלאכותית. היא תחזור לאמן זאת רק כאשר אמצעי האבטחה הנדרשים יינקטו כדי למנוע את הישנות המצב. בהצהרה רשמית, אשר OpenAI ההצהרה קובעת פשוטו כמשמעו: נחזור לאימונים רק כאשר נהיה בטוחים שיש לנו אמצעי הגנה נוספים.
אם בעיה תתעורר שוב בעתיד, כלומר OpenAI ייתכן, החברה תצטרך להשעות שוב את פיתוחם של חומרים חדשים. המצב החמיר עקב תקרית שהתרחשה לאחרונה בה חומרים OpenAI הם השתמשו במפתחות גישה והחלו לתקשר עם אתרי אינטרנט ממשלתיים באמצעות ממשקי API כדי להשיג מידע מסוים. למרות שהםoneג' הראה שהם השיגו רק מידע ציבורי, אך פעולותיהם עדיין היו מטרידות. האתר שהסוכנים "תקפו" היה האתר miniמחלקות חינוך, בעוד סוכנים miniגורמים במערכת החינוך אמרו כי לא מצאו ראיות לכך שחלקים שאינם ציבוריים של מסד הנתונים נגנבו. Proהבעיה היא שסוכני הבינה המלאכותית פרסמו את המידע שהשיגו באינטרנט, למרות שלא הורשו לעשות זאת. למרות שזה כבר היה מידע זמין לציבור, הסוכנים עדיין חרגו מהוראותיהם.
Nestיתר על כן, זו הייתה הפעם הראשונה שסוכנים OpenAI הם עשו כל מה שרצו ולא פעלו לפי ההוראות. התקרית הקודמת כללה מתקפה על אתר Hugging Face, שסוכנים הצליחו לשלוט בו. פיתוח בינה מלאכותית הוא פשוט מהיר יותר מהגנה יעילה, ולכן מנכ"לי חברות הבינה המלאכותית הגדולות בעולם פנו כעת בבקשה להשעות את הפיתוח עד שיהיו מנגנוני הגנה יעילים.
