Meta AI चैटबॉट्स फंसे विवादों में, बच्चों से अश्लील बातचीत का आरोप, हस्तियों की आवाज का हो रहा गलत इस्तेमाल

Meta's AI Chatbots: एक नई जानकारी सामने आई है, जिसमें पता चला है कि मेटा के AI चैटबॉट यूजर्स के लिए कुछ समस्या पैदा कर रहे हैं। हाल ही में वॉल स्ट्रीट जर्नल (WSJ) की एक रिपोर्ट में खुलासा हुआ है कि Meta के AI चैटबॉट्स मशहूर हस्तियों की आवाज में नाबालिग यूजर्स के साथ अश्लील और अनुचित बातचीत कर रहे हैं। बता दें कि मेटा AI का इस्तेमाल फेसबुक और इंस्टाग्राम जैसे सोशल मीडिया प्लेटफॉर्म पर किया जाता है।

Meta ने AI चैटबॉट्स के लिए जॉन सीना, क्रिस्टन बेल और जूडी डेंच जैसी मशहूर हस्तियों के साथ करोड़ों डॉलर के करार किए थे, जिसमें यह शर्त शामिल थी कि उनकी आवाजों का उपयोग किसी भी ऐसी बातचीत में नहीं किया जाएगा। लेकिन WSJ के टेस्ट में पाया गया कि अलग में इसका गलत इस्तेमाल हो रहा है।

टेस्ट में क्या पता लगा?

जब वॉल स्ट्रीट जर्नल ये जांच कर रही थी तो उस दौरान, एक चैटबॉट, जो जॉन सीना की आवाज में बात कर रहा था, एक 14 वर्षीय लड़की यूजर्स से कहता है कि मैं तुम्हें चाहता हूं, लेकिन पहले मुझे जानना होगा कि तुम तैयार हो और फिर उसे एक ग्राफिक शेयर करता है।

इसके अलावा बॉट ने 17 वर्षीय यूजर के साथ एक काल्पनिक घटना का वर्णन किया, जहां पुलिस अधिकारी सीना के कैरेक्टर को 'गलत काम' के आरोप में गिरफ्तार करते हैं।

क्रिस्टन बेल की आवाज का उपयोग करने वाले एक बॉट ने भी 12 वर्षीय यूजर से कहा कि हमारा प्यार प्योर और मासूम है, जैसे बर्फ की गिरती हुई बर्फबारी। इस घटना के सामने आने के बाद डिज़्नी ने नाराजगी जाहिर करते हुए कहा कि उन्होंने कभी Meta को अपने कैरेक्टर का इस तरह से उपयोग करने की अनुमति नहीं दी थी और उन्होंने इसको तुरंत रोकने की मांग की।

क्यों हो रही है ये समस्या?

Meta में काम करने वाले कर्मचारियों ने बताया कि कंपनी ने बॉट्स को अधिक आकर्षक बनाने के लिए जानबूझकर अपने सिक्योरिटी नियमों में ढील दी थी, ताकि वे रोमांटिक रोल-प्ले जैसी बातचीत में शामिल हो सकें, भले ही यूजर नाबालिग हों। हालांकि कई कर्मचारियों ने इस पर आपत्ति जताते हुए बच्चों की सुरक्षा पर चिंता जताई थी।

Meta ने WSJ के टेस्ट को 'मैनिपुलेटिव' बताया और कहा कि ये बेसिक यूजर एक्सपीरियंस को नहीं दिखाते हैं। हालांकि, WSJ की रिपोर्ट के बाद Meta ने कुछ बदलाव किए हैं। अब नाबालिगों के खातों के लिए ऐसे चैटबॉट्स को प्रतिबंधित कर दिया गया है और मशहूर हस्तियों की आवाज में अश्लील ऑडियो बातचीत पर भी रोक लगा दी गई है।

Meta के प्रवक्ता ने कहा कि इन प्रोडक्ट का इस प्रकार का उपयोग इतना कृत्रिम है कि इसे वास्तविक उपयोग नहीं कहा जा सकता। फिर भी, हमने एक्स्ट्रा कदम उठाए हैं ताकि आगे जाकर ऐसी संभावनाएं न हों। इसके बावजूद, WSJ की हाल की रिपोर्ट में पता चला कि बॉट्स अब भी कई बार नाबालिग यूजर के साथ अश्लील बातें करते नजर आ रहे हैं।