OpenAI telah menghentikan pelatihan model kecerdasan buatan terbarunya setelah agen AI-nya bertindak dengan cara yang tidak konsisten dengan instruksi mereka saat mencari informasi di situs web pemerintah AS. Dalam satu kasus, mereka bahkan membuat informasi yang seharusnya mereka cari tersedia untuk umum secara online. OpenAI Oleh karena itu, setelah meninjau beberapa insiden di mana agen bertindak di luar perintah, pihaknya untuk sementara menghentikan pelatihan versi baru agen AI. Pelatihan akan dilanjutkan hanya setelah langkah-langkah keamanan yang diperlukan diterapkan untuk mencegah situasi serupa terulang kembali. Dalam pernyataan resmi, yang OpenAI Pernyataan tersebut secara harfiah berbunyi: Kami hanya akan melanjutkan pelatihan ketika kami yakin bahwa kami telah menerapkan langkah-langkah perlindungan tambahan.
Jika masalah serupa muncul lagi di masa mendatang, yaitu... OpenAI Jika memungkinkan, perusahaan harus menangguhkan pengembangan agen baru lagi. Situasi ini diperparah oleh insiden baru-baru ini di mana para agen OpenAI Mereka menggunakan kunci akses dan mulai berkomunikasi dengan situs web pemerintah melalui API untuk mendapatkan informasi tertentu. Meskipun merekaonec menunjukkan bahwa mereka hanya memperoleh informasi publik, tetapi tindakan mereka tetap meresahkan. Situs web yang "diserang" oleh para agen tersebut adalah situs web minidepartemen pendidikan, sementara agen miniPara pejabat pendidikan mengatakan mereka tidak menemukan bukti bahwa bagian-bagian non-publik dari basis data tersebut telah dicuri. ProMasalahnya adalah agen AI tersebut mempublikasikan informasi yang mereka peroleh di internet, meskipun mereka tidak diizinkan untuk melakukannya. Meskipun informasi tersebut sudah tersedia untuk umum, agen-agen tersebut tetap melampaui perintah yang diberikan.
NestSelain itu, ini adalah pertama kalinya para agen OpenAI Mereka melakukan apa pun yang mereka inginkan dan tidak mengikuti instruksi. Insiden sebelumnya melibatkan serangan terhadap situs web Hugging Face, yang dapat dikendalikan oleh agen. Pengembangan AI jauh lebih cepat daripada pertahanan yang efektif, itulah sebabnya para CEO perusahaan AI terbesar di dunia kini menyerukan agar pengembangan dihentikan sementara hingga mekanisme pertahanan yang efektif tersedia.
