OpenAI telah menghentikan latihan model kecerdasan buatan terkininya selepas ejen AInya bertindak dengan cara yang tidak konsisten dengan arahan mereka semasa mencari maklumat di laman web kerajaan A.S. Dalam satu kes, mereka juga menjadikan maklumat yang sepatutnya mereka cari tersedia secara umum dalam talian. OpenAI Oleh itu, ia menyatakan bahawa selepas mengkaji semula beberapa insiden di mana ejen bertindak di luar arahan, ia telah menghentikan latihan versi baharu ejen AI buat sementara waktu. Ia akan menyambung semula ini hanya apabila langkah keselamatan yang diperlukan telah dilaksanakan untuk mengelakkan situasi daripada berulang. Dalam satu kenyataan rasmi, yang OpenAI Kenyataan itu secara literalnya menyatakan: Kami hanya akan menyambung semula latihan apabila kami pasti bahawa kami mempunyai langkah-langkah perlindungan tambahan.
Jika masalah timbul lagi pada masa hadapan, yang mana OpenAI mungkin, syarikat itu perlu menggantung pembangunan ejen baharu sekali lagi. Keadaan ini diburukkan lagi oleh insiden baru-baru ini di mana ejen OpenAI Mereka menggunakan kunci akses dan mula berkomunikasi dengan laman web kerajaan melalui API untuk mendapatkan maklumat tertentu. Walaupun merekaonec menunjukkan bahawa mereka hanya memperoleh maklumat awam, tetapi tindakan mereka masih mengganggu. Laman web yang "diserang" oleh ejen adalah laman web minijabatan pendidikan, manakala ejen miniPegawai pendidikan berkata mereka tidak menemui bukti bahawa bahagian bukan awam pangkalan data telah dicuri. ProMasalahnya ialah ejen AI menerbitkan maklumat yang mereka perolehi di internet, walaupun mereka tidak dibenarkan berbuat demikian. Walaupun ia sudah menjadi maklumat umum, ejen masih melebihi arahan mereka.
NestTambahan pula, ia merupakan kali pertama ejen OpenAI Mereka melakukan apa sahaja yang mereka mahu dan tidak mengikut arahan. Insiden sebelumnya melibatkan serangan ke atas laman web Hugging Face, yang mana ejen dapat mengawalnya. Pembangunan AI lebih pantas daripada pertahanan yang berkesan, itulah sebabnya CEO syarikat AI terbesar di dunia kini telah merayu agar pembangunan digantung sehingga mekanisme pertahanan yang berkesan tersedia.
