ओपनएआई अब 18 साल से कम उम्र के उपयोगकर्ताओं के लिए चैटजीपीटी का एक अलग संस्करण लॉन्च करने की तैयारी कर रहा है। माइक्रोसॉफ्ट समर्थित इस एआई कंपनी ने कहा है कि वह 18 साल से कम उम्र के उपयोगकर्ताओं को मानक चैटबॉट संस्करण तक पहुँचने से रोकने के लिए आयु-पूर्वानुमान तकनीक का उपयोग करेगी। यह घोषणा ऐसे समय में की गई है जब नए शोध और एक मुकदमे ने किशोरों के मानसिक स्वास्थ्य पर एआई के प्रभाव को लेकर सवाल उठाए हैं।
दरअसल, अप्रैल में 16 वर्षीय एडम राइन द्वारा आत्महत्या करने के बाद, उसके माता-पिता ने अगस्त में ओपनएआई पर मुकदमा दायर किया था। आरोप लगाया गया था कि चैटजीपीटी ने एक ‘कोच’ के रूप में राइन की मौत की योजना बनाने में मदद की थी। मुकदमे के अनुसार, चैटबॉट ने उन्हें बताया कि चिंता और नकारात्मक विचारों से जूझने वाले कई लोग ‘निकास द्वार’ की कल्पना करके आराम महसूस करते हैं क्योंकि इससे उन्हें फिर से नियंत्रण का एहसास होता है।
इन चिंताओं के जवाब में, ओपनएआई ने कई नए अपडेट की घोषणा की है। इनमें आत्महत्या से संबंधित बातचीत के लिए बेहतर सुरक्षा, नए अभिभावकीय नियंत्रण और लंबे समय तक चलने वाली चैट को संभालने के लिए नए सिस्टम शामिल हैं। कंपनी ने कहा कि अगर उसके टूल किसी की उम्र का विश्वसनीय अनुमान नहीं लगा पाते हैं, तो वह डिफ़ॉल्ट रूप से 18 साल से कम उम्र के संस्करण को सक्रिय कर देगा।
ChatGPT का नया किशोर संस्करण कैसे काम करेगा?
इस संस्करण में, माता-पिता अब अपने खातों को अपने बच्चों के खातों से जोड़ सकेंगे। इससे वे उम्र के अनुसार चैटबॉट की बातचीत को प्रबंधित कर सकेंगे। वे मेमोरी और चैट हिस्ट्री जैसी सुविधाओं को चालू/बंद कर सकेंगे, और अगर सिस्टम को लगता है कि बच्चा ‘गंभीर संकट’ में है, तो उन्हें अलर्ट भी प्राप्त होंगे। एक नया विकल्प माता-पिता को ‘ब्लैकआउट घंटे’ निर्धारित करने की अनुमति देगा जब बच्चे ChatGPT का उपयोग नहीं कर सकते।
OpenAI ने हमेशा कहा है कि ChatGPT केवल 13 वर्ष और उससे अधिक आयु के उपयोगकर्ताओं के लिए उपलब्ध है। यह नवीनतम अपडेट ऐसे समय में आया है जब वाशिंगटन, डी.सी. में सीनेट की एक सुनवाई चल रही है, जिसमें किशोरों के लिए AI चैटबॉट के खतरों पर चर्चा हो रही है। इसमें जोश हॉलिना सहित कई रिपब्लिकन और डेमोक्रेटिक सीनेटर शामिल हैं।
इस बीच, एफटीसी ने चैटबॉट सुरक्षा की जांच भी शुरू कर दी है और ओपनएआई, मेटा, गूगल, एक्सएआई, स्नैप और कैरेक्टर.एआई से जानकारी मांगी है।
