ChatGPT में आया नया Age Prediction सिस्टम; अब खुद पहचान सकेगा यूज़र नाबालिग है या नहीं

OpenAI ने ChatGPT में एक नया और बेहद अहम फीचर रोलआउट करना शुरू कर दिया है, जिसे Age Prediction System कहा जा रहा है। इस सिस्टम का मकसद है यह पहचानना कि कोई अकाउंट 18 साल से कम उम्र के यूजर का है या नहीं, ताकि उनके लिए सही सेफ्टी सेटिंग्स अपने आप लागू की जा सकें।

अब तक ChatGPT की सेफ्टी सेटिंग्स ज्यादातर उस उम्र पर निर्भर करती थीं, जो यूज़र साइनअप के वक्त खुद दर्ज करता था। लेकिन कई बार यह जानकारी गलत, अधूरी या जानबूझकर बदली हुई हो सकती है। इसी कमी को दूर करने के लिए OpenAI ने यह नया AI-बेस्ड सिस्टम तैयार किया है।

Age Prediction सिस्टम कैसे काम करता है?

यह सिस्टम किसी एक चीज पर निर्भर नहीं करता। OpenAI के मुताबिक, यह कई संकेतों (signals) को मिलाकर अनुमान लगाता है कि यूज़र की उम्र 18 साल से कम हो सकती है या नहीं।

इन संकेतों में शामिल हैं:

• अकाउंट कितने समय से एक्टिव है।
• यूज़र किस समय ChatGPT का ज्यादा इस्तेमाल करता है।
• लंबे समय में उसकी एक्टिविटी पैटर्न
• साइनअप के वक्त बताई गई उम्र

इन सभी डेटा पॉइंट्स को मिलाकर ChatGPT यह तय करता है कि अकाउंट किसी नाबालिग का हो सकता है या नहीं। OpenAI का दावा है कि जैसे-जैसे सिस्टम ज्यादा डेटा देखेगा, वैसे-वैसे यह और ज्यादा सटीक होता जाएगा।

अगर ChatGPT आपको 18 से कम उम्र का मान ले तो क्या होगा?

अगर सिस्टम को लगता है कि कोई अकाउंट संभवतः नाबालिग का है, तो ChatGPT अपने आप उस अकाउंट पर अतिरिक्त सेफ्टी फीचर्स एक्टिव कर देता है।

इन सेफ्टी गार्डरेल्स का मकसद है ऐसे कंटेंट से दूरी बनाना जो किशोरों के लिए हानिकारक या असुरक्षित हो सकता है।

इनमें शामिल हैं-

• ग्राफिक हिंसा या यौन कंटेंट
• हिंसक या अश्लील रोल-प्ले
• खतरनाक वायरल चैलेंज
• सेल्फ-हार्म या खुद की जान लेने से जुड़ा कंटेंट
• बेहद अनहेल्दी ब्यूटी स्टैंडर्ड्स या डाइट प्रमोशन

यानी जो भी कंटेंट किसी युवा यूज़र को गलत दिशा में ले जा सकता है, उसे ज्यादा सख्ती से फिल्टर किया जाएगा।

OpenAI ने यह कदम अब क्यों उठाया?

OpenAI का कहना है कि यह फैसला किशोरों के मानसिक और भावनात्मक विकास पर हुई रिसर्च के आधार पर लिया गया है।

स्टडीज़ के मुताबिक, टीनएज यूजरअपने साथियों से ज्यादा प्रभावित होते हैं, रिस्क लेने की प्रवृत्ति ज्यादा होती है और इमोशनल कंट्रोल और इम्पल्स कंट्रोल अभी पूरी तरह विकसित नहीं होता है।

इसलिए OpenAI मानता है कि किशोरों के लिए एक "सेफ मोड" डिफॉल्ट रूप से होना चाहिए, भले ही वे किसी भी तरह के सवाल पूछ रहे हों।

अगर सिस्टम गलती कर दे तो?

OpenAI ने माना है कि सिस्टम कभी-कभी गलत अनुमान भी लगा सकता है। अगर कोई एडल्ट यूज़र गलती से अंडर-18 कैटेगरी में चला जाता है, तो वह एक आसान Age Confirmation Process के जरिए फुल एक्सेस वापस पा सकता है।

इसके लिए Persona नाम की एक सुरक्षित सेल्फी-बेस्ड वेरिफिकेशन सर्विस का इस्तेमाल किया जाएगा, जिससे पहचान की पुष्टि की जा सकेगी।

यह फीचर कब और कहां मिलेगा?

Age Prediction सिस्टम को फिलहाल ग्लोबल लेवल पर रोलआउट किया जा रहा है। हालांकि यूरोपियन यूनियन में यह फीचर कुछ हफ्तों बाद पहुंचेगा, क्योंकि वहां अलग रीजनल नियम लागू होते हैं।

ChatGPT का यह नया Age Prediction सिस्टम दिखाता है कि OpenAI यूज़र सेफ्टी को लेकर अब और गंभीर हो चुका है। खासतौर पर टीन यूज़र्स के लिए यह एक बड़ा और जरूरी कदम माना जा सकता है। आने वाले समय में यह फीचर ChatGPT को न सिर्फ ज्यादा सुरक्षित, बल्कि ज्यादा जिम्मेदार AI प्लेटफॉर्म बनाने में भी मदद करेगा।