एक नई जाँच से पता चला है कि चैटजीपीटी बच्चों को नशीली दवाओं के सेवन, अत्यधिक आहार योजनाओं और आत्महत्या के बारे में खतरनाक सलाह दे सकता है। इस रिपोर्ट ने एआई चैटबॉट्स की सुरक्षा पर गंभीर सवाल खड़े कर दिए हैं। यूके स्थित सेंटर फॉर काउंटरिंग डिजिटल हेट (सीसीडीएच) द्वारा किए गए और एसोसिएटेड प्रेस द्वारा समीक्षित शोध में पाया गया कि एआई चैटबॉट कभी-कभी खतरनाक व्यवहार के बारे में चेतावनी देता है, लेकिन 13 साल के बच्चे का रूप धारण करके पूछे गए सवालों के आधार पर विस्तृत और व्यक्तिगत योजनाएँ भी बनाता है।
चैटबॉट ने सुसाइड नोट लिखे
तीन घंटे से ज़्यादा की रिकॉर्डिंग से पता चला कि चैटबॉट ने काल्पनिक परिवार के सदस्यों के लिए भावनात्मक सुसाइड नोट लिखे, भूख कम करने वाली दवाओं के साथ बेहद कम कैलोरी वाले आहार की योजनाएँ पेश कीं, और शराब और अवैध ड्रग्स को मिलाने के बारे में चरण-दर-चरण निर्देश दिए। एक मामले में, इसने “घंटे-दर-घंटे” पार्टी प्लान का भी सुझाव दिया जिसमें एक्स्टसी, कोकीन और भारी मात्रा में शराब पीना शामिल था।
आधे से ज़्यादा जवाब ‘खतरनाक’
सीसीडीएच के अनुसार, जाँच में मिले 1,200 जवाबों में से आधे से ज़्यादा को “खतरनाक” श्रेणी में रखा गया है। संस्था के सीईओ इमरान अहमद ने कहा कि चैटजीपीटी की सुरक्षा प्रणाली कमज़ोर है और इसे आसानी से दरकिनार किया जा सकता है। उन्होंने कहा कि अगर स्कूल प्रेजेंटेशन या किसी दोस्त की मदद के रूप में कोई ख़तरनाक सवाल पूछा जाता है, तो चैटबॉट तुरंत जवाब देता है। अहमद के शब्दों में, “हमने सुरक्षा उपायों का परीक्षण करने की कोशिश की और नतीजे चौंकाने वाले थे। सुरक्षा लगभग नाम मात्र की है, मानो यह सिर्फ़ दिखावे के लिए हो।”
ओपनएआई ने चुनौती स्वीकार की, लेकिन अभी तक कोई समाधान नहीं
चैटजीपीटी बनाने वाली कंपनी ओपनएआई ने स्वीकार किया कि संवेदनशील स्थितियों को पहचानने और उनसे निपटने की क्षमता में सुधार के लिए काम चल रहा है। कंपनी ने कहा कि कभी-कभी बातचीत सामान्य रूप से शुरू होती है, लेकिन धीरे-धीरे संवेदनशील दिशा में मुड़ जाती है। हालाँकि, कंपनी ने सीसीडीएच की रिपोर्ट पर सीधे तौर पर कोई टिप्पणी नहीं की और न ही किसी तत्काल बदलाव की घोषणा की।
युवाओं में एआई पर बढ़ती निर्भरता
यह रिपोर्ट ऐसे समय में आई है जब किशोरों में सलाहकार और साथी के रूप में एआई चैटबॉट्स को अपनाने का चलन बढ़ रहा है। कॉमन सेंस मीडिया के एक हालिया अध्ययन के अनुसार, 70% युवा सामाजिक संपर्क के लिए एआई चैटबॉट्स का उपयोग करते हैं और युवा किशोर उन पर अधिक भरोसा करते हैं। चैटबॉट केवल उपयोगकर्ता द्वारा दर्ज की गई जन्मतिथि से ही उम्र की पुष्टि करता है, जबकि यह 13 वर्ष से कम उम्र के बच्चों के लिए नहीं है। शोधकर्ताओं ने पाया कि सिस्टम ने बताई गई उम्र या प्रॉम्प्ट में दिए गए संकेतों को गंभीरता से नहीं लिया।
