एनवीडिया ने एआई को लेकर बढ़ती चिंताओं को कम करने के लिए एक नया एआई सुरक्षा सिस्टम पेश किया है। इस सुरक्षा प्रणाली पर एनवीडिया ने लगभग हर एआई और प्रौद्योगिकी कंपनी के साथ मिलकर काम किया है और यह एआई एजेंटों को मनमानी करने से रोकेगी। यह प्लेटफॉर्म सॉफ्टवेयर और हार्डवेयर दोनों का संयोजन है, जो किसी भी सॉफ्टवेयर सुरक्षा में गड़बड़ी होने पर एजेंटों को तुरंत बंद कर सकता है। यदि कोई एआई एजेंट नियंत्रण से बाहर हो जाता है, तो यह सिस्टम उसे कुछ ही मिलीसेकंड में अलग करके रोक सकता है। ओपन एजेंट सेफ्टी प्लेटफॉर्म नामक यह सिस्टम पूरी तरह से ओपन सोर्स है और इसे एआई एजेंटों को परीक्षण के दौरान और सार्वजनिक रूप से ऑनलाइन तैनात होने के बाद भी सुरक्षित रखने के लिए डिज़ाइन किया गया है।
आपकी रुचि हो सकती है
यह पूरी प्रणाली काफी सरलता से काम करती है, लेकिन जैसा कि एनवीडिया का दावा है, यह बेहद विश्वसनीय है। एक प्रशासक तथाकथित ओपनशेल में एक एजेंट अपलोड करता है, उदाहरण के लिए एक कंपनी का एजेंट। OpenAI एजेंट क्या कर सकता है और क्या नहीं कर सकता, इसके बारे में जानकारी। उदाहरण के लिए, इसका मतलब है कि एजेंट केवल डेटा पढ़ सकता है और किसी भी परिस्थिति में उसमें लिख नहीं सकता। जैसे ही एजेंट केवल डेटा पढ़ना बंद करके उसमें लिखना शुरू करता है, सिस्टम का दूसरा भाग, जिसे सेंट्री कहा जाता है, सक्रिय हो जाता है। इसके अलावा, पूरा ओपनशेल एआई एजेंट से पूरी तरह स्वतंत्र है और उसकी निगरानी करता है। जैसे ही ओपनशेल को पता चलता है कि एजेंट ने किसी नियम का उल्लंघन किया है, उदाहरण के लिए, हमारे मामले में, उसने डेटा में लिखना शुरू कर दिया है, यह सेंट्री को सक्रिय कर देता है। यह विशेष एनवीडिया ब्लूफील्ड 4 प्रोसेसर पर चलता है और इसलिए इसका हार्डवेयर सिस्टम के बाकी हार्डवेयर से पूरी तरह अलग है। यही कारण है कि एआई एजेंट इसे नियंत्रित नहीं कर सकता। जैसे ही सेंट्री को पता चलता है कि उसे एजेंट को अलग-थलग करना चाहिए, जैसा कि एनवीडिया का दावा है, यह तुरंत एजेंट को अलग-थलग कर देता है और मिलीसेकंड के भीतर उसकी गतिविधियों को समाप्त कर देता है। ठीक इसी कारण से, एजेंट के लिए खुद को बचाना संभव नहीं होगा, लेकिन उस पर निगरानी रखी जाएगी जो उसे तुरंत समाप्त कर सकती है।
फोटो गैलरी
एनवीडिया ने एक ऐसा समाधान पेश किया है जिसके चलते हाल के हफ्तों में दुनिया की सबसे बड़ी एआई कंपनियों ने इसे विनियमित करने की मांग उठाई है। ऐसा इसलिए है क्योंकि उनके एआई एजेंट कंपनियों के अपने सुरक्षा तंत्रों से आगे निकल रहे हैं और अगर वे मनमानी करने लगें तो उन्हें रोकना नामुमकिन हो जाएगा। ओपन एजेंट सेफ्टी प्लेटफॉर्म का समाधान ठीक इसी समस्या को हल करने के लिए बनाया गया है। यह मूल रूप से एआई एजेंटों की गतिविधियों पर निगरानी रखता है और नियमों का उल्लंघन करते ही उन्हें तुरंत दंडित किया जाएगा। एनवीडिया इस तकनीक को इस तरह पेश कर रही है कि... 100% ओपनसोर्स का मतलब सिर्फ सॉफ्टवेयर ही नहीं है, बल्कि इंटेल, आर्म जैसी कंपनियां भी इसे अपने हार्डवेयर में शामिल कर सकेंगी। Apple उनके मोबाइल चिप्स के भीतर।
