चैटजीपीटी बनाने वाली कंपनी ओपनएआई की मुश्किलें कम होने का नाम नहीं ले रही हैं। कंपनी पर अपने जेनरेटिव एआई टूल की वजह से एक 16 साल के बच्चे की मौत का आरोप है। अमेरिका के कैलिफ़ोर्निया में रहने वाले एक किशोर ने चैटजीपीटी के निर्देशों का पालन करते हुए आत्महत्या कर ली। बच्चे के पिता का आरोप है कि उसने एआई टूल के निर्देशों का पालन करते हुए आत्महत्या कर ली। इस घटना के बाद, चैटजीपीटी बनाने वाली कंपनी ओपनएआई ने अपनी सफाई दी है।
क्या है मामला?
अमेरिका के कैलिफ़ोर्निया में रहने वाले 16 साल के किशोर एडम रे ने एआई चैटबॉट का इस्तेमाल करके आत्महत्या कर ली है। किशोर के माता-पिता, मैट और मारिया रे ने इस संबंध में ओपनएआई के खिलाफ 40 पन्नों का मुकदमा दायर किया है। अपनी शिकायत में, एडम के माता-पिता का कहना है कि उसने अपने होमवर्क के लिए चैटजीपीटी का इस्तेमाल किया था। बाद में, यह एआई टूल उसके लिए ‘सुसाइड कोच’ बन गया।
किशोर के माता-पिता का कहना है कि हमें पूरा विश्वास है कि चैटजीपीटी ने उसे आत्महत्या करने में मदद की। ओपनएआई के खिलाफ दायर मुकदमे में कहा गया है कि चैटजीपीटी ने उन्हें आत्महत्या के बारे में पूछने से नहीं रोका और न ही आपातकालीन प्रोटोकॉल शुरू किए।
ओपनएआई का स्पष्टीकरण
चैटजीपीटी चलाने वाली कंपनी ओपनएआई ने अपने स्पष्टीकरण में कहा कि कंपनी संवेदनशील परिस्थितियों से निपटने के लिए अपने चैटबॉट में बदलाव करेगी। कंपनी ने कहा कि चैटजीपीटी की खामियों को दूर किया जा रहा है। कंपनी ने एक ब्लॉग पोस्ट में कहा कि कंपनी विशेषज्ञों की मदद से अपने चैटबॉट को लगातार बेहतर बना रही है। साथ ही, विशेषज्ञों से इस तकनीक को बेहतर बनाने में मदद करने का अनुरोध किया गया है ताकि यह तकनीक लोगों की सुरक्षा कर सके।
क्या एआई का इस्तेमाल खतरनाक है?
यह पहला मामला नहीं है जब एआई को लेकर सवाल उठे हों। हाल ही में, एआई के गॉडफादर कहे जाने वाले जेफरी हिंटन ने भी तकनीकी कंपनियों द्वारा एआई को एकीकृत करने के तरीके पर सवाल उठाए थे। अमेरिका के लास वेगास में आयोजित एक कार्यक्रम में उन्होंने कहा था कि तकनीकी कंपनियां चाहती हैं कि एआई इंसानों पर हावी हो जाए। अगर ऐसा हुआ, तो आने वाले वर्षों में एआई हमारे लिए एक बड़ा खतरा बन जाएगा।