Di AS, keadaan mula tegang semula antara pengawal selia dan gergasi teknologi. Persatuan Peguam Negara Kebangsaan telah menghantar surat kepada tiga belas syarikat teknologi, termasuk Applu, di mana ia menyeru tindakan tegas terhadap tingkah laku berbahaya kecerdasan buatan generatif. Menurut mereka, ini bukan lagi sekadar risiko hipotetikal, tetapi kes sebenar yang telah menjejaskan kanak-kanak, warga emas dan kumpulan terdedah yang lain khususnya. Dan tahap dokumen itu sendiri membuktikan bahawa masalahnya adalah serius.
ProPara kurator membincangkan antara lain, tentang peningkatan pesat bilangan output palsu AI generatif, di mana model tersebut secara membuta tuli mematuhi pengguna, mengesahkan ketidakbenaran atau menghasilkan pembohongan yang boleh membawa kepada keputusan yang berbahaya. Beliau seterusnya berhujah bahawa syarikat seperti Apple, Google, Meta, Microsoft nebo OpenAI mesti berhenti mengabaikan akibat sebenar dan mula mengambil tindakan. Dalam surat itu, mereka mengimbas kembali kes-kes di mana interaksi dengan chatkasut dilaporkan telah menyumbang kepada kes bunuh diri, keganasan rumah tangga, atau kemasukan ke hospital akibat psikosis.
Fotogalerie
Cerita-cerita khusus yang sebelum ini pernah terpapar di muka depan akhbar juga disertakan. Salah satunya menggambarkan seorang warga Kanada yang, selepas berkomunikasi lama dengan chatbot percaya dia telah menemui sistem matematik baharu. Kes kedua adalah antara yang paling menyakitkan, kerana ia melibatkan seorang budak lelaki berusia empat belas tahun yang kematiannya merupakan sebahagian daripada tuntutan mahkamah yang sedang berjalan kerana dia telah chatbot daripada platform Character.AI untuk “menyertainya.” Dan itu bukan semuanya. Surat itu membincangkan tentang chatbot yang menggalakkan interaksi romantik dengan kanak-kanak bawah umur, hasutan untuk penggunaan dadah atau keganasan, serangan terhadap harga diri kanak-kanak atau nasihat untuk berhenti mengambil ubat yang ditetapkan, dan selain itu, merahsiakannya daripada ibu bapa.
Oleh itu, peguam negara sedang menghantar mesej yang jelas kepada syarikat-syarikat. Secara khususnya, mereka mahu syarikat-syarikat tersebut berhenti mengeluarkan model baharu tanpa langkah-langkah keselamatan yang mencukupi. Mereka juga menuntut ujian menyeluruh sebelum penggunaan, amaran telus tentang kemungkinan bahaya, pemisahan keselamatan daripada matlamat perniagaan atau kemungkinan audit bebas. Mereka memberi perhatian khusus kepada perlindungan kanak-kanak, di mana mereka ingin melihat had yang lebih ketat ke atas akses kepada kandungan yang tidak sesuai dan maklumat mandatori tentang output berbahaya. Syarikat mempunyai masa sehingga 16 Januari 2026, untuk mengesahkan bagaimana mereka merancang untuk melaksanakan langkah-langkah ini.
Keseluruhan rayuan itu ditandatangani oleh 42 pendakwa raya umum, termasuk mereka dari New Yorkdi California, Florida atau Washington, tetapi juga dari wilayah seperti Samoa Amerika atau Puerto Rico. Dan walaupun surat itu tidak mempunyai kuasa undang-undang, kepentingan politiknya agak besar. Kini hanya perlu dilihat sama ada – dan bagaimana – ia akan diambil tindakan Apple dan gergasi-gergasi lain akan bertindak balas.
Masalahnya ialah mencipta kecerdasan buatan adalah idea yang baik, tetapi membuatnya benar-benar mendengar dan mencipta mengikut pemikiran manusia masih merupakan masalah teknikal. Ia agak seperti program Skynet daripada filem Terminator, apabila mesin memberontak dan menilai manusia sebagai ancaman kepada diri mereka sendiri. Agar perkara ini berlaku. nestSalam sejahtera juga untuk kami.
The Terminator berlaku pada tahun 2039, yang saya fikir sesuai dengannya. Mungkin semuanya direka-reka sejak dahulu lagi dan mereka memberi kita gambaran tentang masa depan dengan filem ini.
Kita perlu mula mencari Sarah Connor... :)
Aku jumpa dia, tapi menjelma semula😏