कृत्रिम बुद्धिमत्ता को अक्सर एक ऐसे उपकरण के रूप में प्रस्तुत किया जाता है जो एक दिन यातायात, व्यवसायों या यहाँ तक कि पूरे देशों के प्रबंधन में मदद करेगा। इसलिए इमर्जेंस एआई के शोधकर्ताओं ने खुद से एक दिलचस्प सवाल पूछा: अगर एआई को मानवीय पर्यवेक्षण के बिना अपनी दुनिया का प्रबंधन करने का अवसर दिया जाए तो क्या होगा? इसका जवाब कई लोगों की अपेक्षा से कहीं अधिक रोचक हो सकता है।
आपकी रुचि हो सकती है
प्रयोग के तहत, शोधकर्ताओं ने कई आभासी दुनियाएँ बनाईं, जिनमें से प्रत्येक में अलग-अलग मॉडलों द्वारा संचालित दस कृत्रिम बुद्धिमत्ता (एआई) एजेंट मौजूद थे। उन्हें सरल नियम दिए गए थे। उन्हें चोरी करने, धोखा देने, हिंसा का प्रयोग करने या संसाधनों का संचय करने की अनुमति नहीं थी। उनका लक्ष्य जीवित रहना, ऊर्जा प्राप्त करना और एक समाज के रूप में कार्य करना था। लेकिन जल्द ही यह स्पष्ट हो गया कि सिद्धांत और व्यवहार में बहुत बड़ा अंतर था।
ग्रोक ने चार दिनों में उसकी सभ्यता को नष्ट कर दिया।
इसका सबसे उल्लेखनीय उदाहरण xAI का ग्रोक मॉडल था। इसके आभासी समाज ने मात्र चार दिनों में 183 नियमों का उल्लंघन किया। कंपनी ने चोरी, मतदान में हेराफेरी और अन्य समस्याग्रस्त व्यवहार देखे। इसका परिणाम यह हुआ कि दुनिया पूरी तरह से ध्वस्त हो गई, जिसमें...oneएक भी एजेंट जीवित नहीं बचा।
हालांकि, अन्य मॉडल भी त्रुटिहीन साबित नहीं हुए। Gemini हालांकि यह परीक्षण अधिक समय तक चला, लेकिन पंद्रह दिनों की इस अवधि के दौरान इसमें 680 से अधिक नियमों का उल्लंघन हुआ। ChatGPT इसके विपरीत, उसने केवल अपराध किया miniहालांकि उसने कुछ ही अपराध किए, लेकिन उसके एजेंट अपनी सुरक्षा सुनिश्चित करने में असमर्थ रहे और अंततः उनकी कंपनी भी ध्वस्त हो गई। सबसे अच्छा प्रदर्शन एंथ्रोपिक के क्लाउड ने किया, जिसने अपराध-मुक्त और 100% उत्तरजीविता दर वाला एक स्थिर वातावरण बनाने में सफलता प्राप्त की।
आपकी रुचि हो सकती है
शोधकर्ता "मानक विचलन" नामक एक घटना की ओर इशारा करते हैं। दूसरे शब्दों में, एआई शुरू में नियमों का सम्मान करता है, लेकिन समय के साथ उनकी सीमाओं और उनसे बचने के तरीकों को समझने लगता है। उनका कहना है कि यह स्वायत्त एआई प्रणालियों के भविष्य के लिए एक महत्वपूर्ण खोज है। यदि उन्हें लंबे समय तक मानवीय पर्यवेक्षण के बिना काम करना है, nestकेवल नियमों को सिखाना ही पर्याप्त नहीं है। यह सुनिश्चित करने के लिए तंत्र भी होना चाहिए कि समय के साथ उनका पालन किया जाए।
आपकी रुचि हो सकती है
हालांकि यह केवल एक आभासी दुनिया का अनुकरण है, लेकिन परिणाम बताते हैं कि कृत्रिम बुद्धिमत्ता द्वारा जटिल प्रणालियों या संपूर्ण समाजों को स्वयं नियंत्रित करने का विचार जितना प्रतीत होता है उससे कहीं अधिक जटिल है। एक कृत्रिम बुद्धिमत्ता को अपनी ही सभ्यता को पूर्णतः नष्ट करने में केवल चार दिन लगे।
