जी हां, हम जानते हैं कि यह शीर्षक कैसा लग रहा है, लेकिन दुर्भाग्य से यह सच है। मेटा कंपनी, जो Facebook, इंस्टाग्राम या उदाहरण के लिए WhatsAppने कहा कि उसने एक नई कृत्रिम बुद्धिमत्ता प्रणाली बनाई है जो छह अलग-अलग भाषाओं में एक ऐसे स्तर पर भाषण उत्पन्न कर सकती है जो एक वास्तविक व्यक्ति के भाषण से अलग नहीं है। भाषण विभिन्न शैलियों, स्वरों और यहां तक कि भावनाओं में भी उत्पन्न हो सकता है। हालांकि, मेटा ने यह भी कहा कि संभावित जोखिमों के डर से वह इस कृत्रिम बुद्धिमत्ता को बाजार में नहीं उतारेगी।
मेटा के स्पीच जनरेटर को वॉयसबॉक्स कहा जाता है और इसे विभिन्न शैलियों में विभिन्न आउटपुट उत्पन्न करने के लिए सेट किया जा सकता है। वर्तमान में, उपकरण छह भाषाएं बोल सकता है और शोर हटाने जैसे कई कार्यों का समर्थन करता है। मेटा का दावा है कि वॉयसबॉक्स पिछले भाषण उत्पन्न करने वाले सिस्टम से बहुत अलग है, मुख्य रूप से फ्लो मैचिंग सिस्टम के लिए धन्यवाद, जो सिस्टम को सामान्य लोगों के भाषण को सीखने और इस प्रकार विविध डेटा पर प्रशिक्षित करने की अनुमति देता है।
हालांकि, मेटा का यह भी कहना है कि इस सिस्टम से जुड़े जोखिम इतने अधिक हैं कि दुरुपयोग से बचने के लिए वह इसे सूचीबद्ध नहीं करना चाहती। मेटा के प्रवक्ता ने दुरुपयोग की विशिष्ट संभावनाओं का उल्लेख नहीं किया, लेकिन इस मामले पर टिप्पणी करते हुए कहा: "अन्य शक्तिशाली एआई की तरह, हम मानते हैं कि इस तकनीक में भी दुरुपयोग की संभावना है।"
Proसमस्या स्पष्ट है, क्योंकि कृत्रिम बुद्धिमत्ता (AI) विशिष्ट लोगों की आवाज़ उनकी सहमति के बिना उत्पन्न कर सकती है और इस प्रकार समाचार रिपोर्टिंग जैसे क्षेत्रों में फर्जी वीडियो बनाने में मदद कर सकती है। इसी तरह की प्रणालियों के कारण, किसी भी देश के राष्ट्रपति द्वारा दूसरे देश पर युद्ध की घोषणा करते हुए वीडियो रिकॉर्ड करना कोई समस्या नहीं है और कोई भी यह अंतर नहीं बता पाएगा कि यह घटना वास्तव में घटी है या वीडियो कृत्रिम बुद्धिमत्ता द्वारा बनाया गया है।
“जेनरेटिव स्पीच मॉडल के कई रोमांचक उपयोग हैं, लेकिन संभावित जोखिमों के कारण, हम फिलहाल वॉइसबॉक्स मॉडल या कोड जारी नहीं करेंगे। हालांकि, हमारा मानना है कि एआई समुदाय में खुलापन और चुनौतियों को साझा करना एआई के क्षेत्र को आगे बढ़ाने के लिए महत्वपूर्ण है। लेकिन, पारदर्शिता और जवाबदेही के बीच सही संतुलन बनाना भी जरूरी है,” मेटा के प्रतिनिधियों ने कहा। आप वॉइसबॉक्स के डेमो यहीं सुन सकते हैं ।
यह खासकर उन बैंकों के लिए अच्छी खबर है जिन्होंने वॉयस ऑथेंटिकेशन लागू कर दिया है। जब मुझे लगता है कि सेस्का स्पोरिटेल्ना इसका आविष्कार कर चुकी है तो यह मुझे बेवकूफी भरा लगा। आप नमस्ते कहते हैं और वे आपकी आवाज़ से आपको पहचान लेते हैं। मुझे संदेह है कि सिस्टम ऐसे वॉयस जनरेटर को संभाल सकता है।