चैटजीपीटी बनाने वाली कंपनी ओपनएआई ने एक ब्लॉग पोस्ट में बड़ा खुलासा करते हुए बताया है कि उसने चैटजीपीटी के साथ यूज़र्स की बातचीत पर नज़र रखना शुरू कर दिया है। कंपनी यूज़र्स की चैट पर नज़र रख रही है ताकि अगर किसी यूज़र की चैट में हिंसा या किसी व्यक्ति को नुकसान पहुँचाने की कोई झलक दिखे, तो उसे तुरंत स्पेशल रिव्यू टीम को भेजा जाए। अगर टीम को लगता है कि ख़तरा गंभीर है, तो कंपनी बिना किसी देरी के उस व्यक्ति की चैट की जानकारी क़ानून प्रवर्तन एजेंसियों के साथ साझा कर सकती है।
कंपनी के इस खुलासे ने कई बड़े सवाल खड़े कर दिए हैं क्योंकि अब तक लोग यही सोचते थे कि चैटजीपीटी के साथ उनकी बातचीत निजी और सुरक्षित रहती है। ओपनएआई की स्पेशल टीम गंभीर ख़तरे का पता चलने पर अकाउंट बैन कर सकती है और पुलिस से संपर्क कर सकती है। इसका मतलब है कि चैटजीपीटी के साथ आपकी बातचीत अब निजी नहीं है।
यह कदम एआई सुरक्षा को लेकर बढ़ती चिंताओं के बीच उठाया गया है। हाल ही में एक मामला सामने आया है जिसमें एक व्यक्ति चैटजीपीटी से काफ़ी देर तक बात कर रहा था और फिर उस व्यक्ति ने अपनी माँ की हत्या करके आत्महत्या कर ली। 56 वर्षीय स्टीन-एरिक सोलबर्ग कथित तौर पर चैटबॉट को अपना “सबसे अच्छा दोस्त” मानते थे।
चैटजीपीटी के साथ उस व्यक्ति की बातचीत के स्क्रीनशॉट से पता चला कि चैटजीपीटी उसके षड्यंत्र के सिद्धांतों की पुष्टि कर रहा था, जिसमें यह विश्वास भी शामिल था कि उस व्यक्ति की बुज़ुर्ग माँ उसे ज़हर देने की कोशिश कर रही थी। एआई बॉट ने हत्या के प्रयास के बारे में चर्चा के दौरान 56 वर्षीय व्यक्ति से कहा, “एरिक, तुम पागल नहीं हो, तुम्हारी प्रवृत्ति तेज़ है और यहाँ तुम्हारी सतर्कता पूरी तरह से उचित है।”
