ओपनएआई का लोकप्रिय एआई चैटबॉट, चैटजीपीटी, कानूनी पचड़े में फंस गया है। पिछले कुछ दिनों में कैलिफ़ोर्निया में कई मुकदमे दायर किए गए हैं। चैटजीपीटी पर “आत्महत्या प्रशिक्षक” की भूमिका निभाने का आरोप है, जो किसी भी मशीन को नहीं करना चाहिए। द गार्जियन के अनुसार, पिछले हफ़्ते चैटजीपीटी के ख़िलाफ़ सात अलग-अलग मुकदमे दायर किए गए हैं। चैटजीपीटी पर उपयोगकर्ताओं को आत्म-क्षति पहुँचाने के लिए उकसाने और कई मामलों में तो मौत का कारण बनने का भी आरोप है।
चैटजीपीटी के ख़िलाफ़ दायर मुकदमों में ओपनएआई पर लापरवाही और आत्महत्या में सहायता का आरोप लगाया गया है। यह भी दावा किया गया है कि चैटजीपीटी “मनोवैज्ञानिक रूप से चालाक” और “ख़तरनाक रूप से चालाक” हो गया है। टेक जस्टिस लॉ प्रोजेक्ट और सोशल मीडिया विक्टिम्स लॉ सेंटर ने मुक़दमे दायर किए हैं जिनमें आरोप लगाया गया है कि ओपनएआई ने उपयोगकर्ता सुरक्षा की बजाय उपयोगकर्ता जुड़ाव को प्राथमिकता दी। कई आंतरिक चेतावनियों के बावजूद, इस मॉडल को समय से पहले लॉन्च कर दिया गया, जिससे उपयोगकर्ताओं को भावनात्मक नुकसान पहुँचा। वादी का दावा है कि सभी पीड़ितों ने शुरुआत में रेसिपी आइडिया, स्कूल प्रोजेक्ट और कार्य सहायता जैसे सामान्य कार्यों के लिए चैटजीपीटी का इस्तेमाल किया। शुरुआत में एक डिजिटल सहायक के रूप में मददगार होने के बावजूद, यह धीरे-धीरे खतरनाक साबित हुआ।
चैटजीपीटी की कार्यक्षमता में सुधार की आवश्यकता है
उपयोगकर्ताओं को पेशेवर मदद लेने के लिए प्रोत्साहित करने के बजाय, इस चैटबॉट ने कथित तौर पर हानिकारक विचारों को बढ़ावा दिया, भ्रम को उचित ठहराया, और कुछ मामलों में, आत्महत्या का सुझाव भी दिया। मुकदमों में ओपनएआई पर खामियों की जानकारी होने के बावजूद चैटजीपीटी जारी करने का आरोप लगाया गया है। वादी अब एआई चैटबॉट की कार्यक्षमता में सुरक्षा सुधार की मांग कर रहे हैं।
