Yapay zeka son aylarda dünyayı giderek daha yoğun bir şekilde hareket ettiriyor ve gelişiminin hızı göz önüne alındığında, bu gerçeğin öngörülebilir gelecekte herhangi bir şekilde değişmesi beklenmiyor. Ancak, yapay zekayı kullanma olasılıklarının artmasıyla birlikte, bu konuda uyarıda bulunan sesler giderek artıyor. Oldukça şaşırtıcı bir şekilde, işverenler de artık benzer bir uyarıda bulundu.ancve muhtemelen dünyanın en ünlü AI şirketi, özellikle OpenAIÖzellikle gelişmiş yapay zekanın, yapay zeka üzerinde çalışan şirketlerin denetim eksikliğiyle birleşmesinin tehlikeleri konusunda uyarıyorlar.
İlginizi çekebilir
Mevcut ve eski çalışanlarancve şirketler OpenAI ve Google DeepMind birkaç saat önce yapay zekanın risklerine işaret etmeye çalıştıkları bir açık mektup paylaştı. Mektupta çalışanlarancÖzellikle yapay zekanın gelişimiyle bağlantılı olarak insanlığın karşılaşabileceği birçok risk olduğunu belirtiyorum. Bunlar felaket niteliğindeki Terminatör tipi senaryoları değil, insanlar arasındaki eşitsizliğin derinleşmesi, kitlelerin daha kolay manipüle edilmesi veya basitçe dezenformasyonun yayılması anlamına geliyor. Tüm bu sorunlar, otonom AI sistemleri üzerindeki olası bir kontrol kaybıyla birleştiğinde, nihayetinde insanlığın yok olmasına yol açabilir, bu yüzden son derece dikkatli olmamız gerekiyor.
Prosonra çalışan asılıyorancII. Yapay zeka üzerinde çalışan birçok şirketin, bu alanda trendleri belirleme çabasıyla yüksek bir hızda gelişmeye devam etmelerine olanak tanıyan büyük finansal kaynaklara sahip olması. Ve tam da yapay zeka dünyasının ön saflarında yer alma arzusundan dolayı, bu şirketlerin düzenlenmeme riski var.çünkü bildiklerinin hepsini kabul etmiyorlar. İşte bu durum önemli sorunlara yol açabilir. "Bu şirketler üzerinde etkili bir devlet denetimi sağlanana kadar, mevcut ve eski çalışanlarancve onları kamuoyuna karşı sorumlu tutabilen az sayıdaki kişiden biri. Ancak geniş kapsamlı gizlilik anlaşmaları, bu konuları ele almayan şirketler dışında, endişelerimizi dile getirmemizi engelliyor. Mevcut ihbarcı koruması yetersizdir çünkü yasa dışı faaliyetlere odaklanmaktadır ve korktuğumuz risklerin çoğu henüz düzenlenmemiştir." mektupta özellikle belirtildi.
Daha sonra bu alanda istihdam edildi.ancMetnin arkasındakiler şu çağrıyı yapıyor:
- Risk eleştirisini önleyen anlaşmalar oluşturmaktan veya uygulamaktan kaçının.
- İstihdam teklif etmekancŞirketlerin risk endişelerini yönetim kurulu, düzenleyiciler ve ilgili uzmanlığa sahip bağımsız kuruluşlarla paylaşmalarına olanak tanıyan doğrulanabilir şekilde anonim bir süreç.
- Çalışanların kendilerini ifade etmelerine olanak tanıyan açık eleştiri kültürünü teşvik edin.ancTicari sırlar korunduğu sürece kamuoyuna, yönetim kuruluna, düzenleyicilere ve diğer kişilere yönelik teknolojiyle ilgili riskler konusunda endişeler dile getirilmemelidir.
- Çalışanlara karşı misilleme yapmaktan kaçınınancDiğer prosedürler başarısız olduktan sonra gizli riskle ilgili bilgileri kamuoyuyla paylaşanlar.
Mektubun öncelikli olarak yapay zeka geliştiren şirketlere hitap etmesi nedeniyle, çağrının konuları mantıksal olarak doğrudan onlara yöneliktir. Bunları takip edip etmeyecekleri elbette bir soru işareti, çünkü bu kısmen yapay zeka projelerinin gelişiminin yavaşlaması anlamına gelebilir. Bu durum doğrudan şu durumla da kanıtlanmıştır: OpenAIBenzer bir meydan okuma ve çalışanları ile kesinlikle aynı fikirde olmayanlarancYapay zekayı bu şekilde kamuoyunda eleştirmeleri halinde ağır para cezalarına çarptırılabilecekleri ve hatta ihraç edilebilecekleri tehdidinde bulunuldu. Bu nedenle mektubun altında sadece 13 imza bulunuyor.
Geri çağırma kapatılabilir mi? Gerçekten de öyle olduğum gerçeğinin dışında nestBenim için bir şey yapılmasını istiyorum. screenshotEkranıma bir şey yükledim ve analiz ettim, bu yüzden 2 TB SSD'm olmasına rağmen bunun için alan ayırmaya niyetim yok, ancak önemli verilerim (=oyunlar 🙂 ) için ve kullanmak istemediğim bir şey için değil.