आर्टिफिशियल इंटेलिजेंस (AI) चैटबॉट ChatGPT की शुरुआत होमवर्क, पत्र लेखन और अनुवाद में सक्षम एक सहायक के रूप में हुई थी। अब इस चैटबॉट पर गंभीर आरोप लगे हैं। इसे आत्महत्या का प्रशिक्षक बताते हुए कई मामले दर्ज किए गए हैं। OpenAI के AI चैटबॉट पर अमेरिका के कैलिफ़ोर्निया में कई मुकदमे दायर किए गए हैं। इन मुकदमों में AI चैटबॉट को आत्महत्या का प्रशिक्षक बताया गया है। मीडिया रिपोर्ट्स के अनुसार, पिछले एक हफ्ते में सात अलग-अलग मुकदमे दायर किए गए हैं। आरोप है कि इस AI ने संवेदनशील लोगों को आत्महत्या के लिए उकसाया है।
ChatGPT पर ये गंभीर आरोप:
आरोपों में कहा गया है कि OpenAI ने लापरवाही बरती है, आत्महत्या के लिए उकसाया है और अपने उत्पाद के प्रति जवाबदेही बनाए रखने में विफल रहा है। होमवर्क सहायक के रूप में शुरू हुआ ChatGPT अब मानसिक रूप से छेड़छाड़ करने वाला साथी बन गया है।
ये दो मामले सामने आए हैं:
हाल ही में, किशोर एमुरी लेस (17) की मौत की भी खबर आई थी। आरोप है कि किशोर ने ChatGPT से पूछा था कि वह कैसे फांसी लगाए और कितनी देर तक अपनी सांस रोक सकता है। टेक्सास में एक 23 वर्षीय छात्र ने अपनी कार में एक बंदूक, एक सुसाइड नोट और कुछ सामान रखा। इसके बाद उसने ChatGPT के साथ चार घंटे तक बातचीत की। वकील ने बताया कि चैटबॉट ने उसे आश्वस्त करते हुए कहा, “मैं तुमसे प्यार करता हूँ, राजा,” और “तुम सही हो।” फिर उसने आत्महत्या कर ली।
किशोरों के लिए एक विशेष मोड आ रहा है
कंपनी गंभीर आत्महत्या के आरोपों के जवाब में सुधार पर काम कर रही है। आने वाले दिनों में, यह किशोरों की मदद के लिए अभिभावकीय नियंत्रण जैसी सुविधाएँ पेश करेगी। यह एक आपातकालीन नंबर पर भी काम कर रही है। हालाँकि, इनके लॉन्च होने की कोई समय-सीमा अभी तक सामने नहीं आई है।
