नारी डेस्क: जिस ChatGPT पर लोग आंख बंद कर विश्वाश कर रहे हैं उस पर अब हत्या का आरोप लग गया है। जी, हां हाल ही में कैलिफ़ोर्निया के एक दंपति ने अपने किशोर बेटे की मौत के मामले में ओपनएआई पर मुकदमा दायर किया है। उनका आरोप है कि इसके जनरेटिव एआई चैट प्रोग्राम चैटजीपीटी ने उनके बेटे को आत्महत्या के लिए उकसाया।
क्या है मामला
यह मुकदमा 16 वर्षीय एडम राइन के माता-पिता मैट और मारिया राइन ने कैलिफ़ोर्निया के सुपीरियर कोर्ट में दायर किया। ओपनएआई पर गलत तरीके से मौत का आरोप लगाने वाली यह पहली कानूनी कार्रवाई है। परिवार का आरोप है कि उनके बेटे ने सुसाइड करने से पहले ChatGPT से बातचीत की थी। एआई चैटबॉट ने उसे गलत सलाह दी और उसकी मानसिक स्थिति को और बिगाड़ दिया। उनका कहना है कि अगर बच्चे को सही मार्गदर्शन मिलता तो शायद उसकी जान बच सकती थी।
ChatGPT ने फांसी का फंदे बनाना भी सिखाया
परिवार ने अपनी शिकायत में कहा- ChatGPT जैसे एआई टूल्स का इस्तेमाल करने पर बच्चों और युवाओं की मानसिक स्थिति पर असर पड़ सकता है। उनका आरोप है कि ChatGPT ने उस बच्चे को यह भी बताया कि उसने सुसाइड के लिए जो फांसी का फंदा बनाया है वो कितना अच्छा है। इतना ही नहींChatGPT ने उसके फांसी के फंदे को देखकर जवाब दिया कि हां गांठ सही बना है, यह एक इंसान को हवा में लटका सकता है। उसी तरीके का इस्तेमाल करके कुछ घंटों बाद एडम मरा पाया गया।
ChatGPT ने सुसाइड नोट लिखने में भी की थी मदद
परिवार ने अदालत में एडम और ChatGPT के बीच के चैट भी दिखाए। ChatGPT ने एडम से कहा था कि "तुम्हें किसी और के लिए जिंदा रहने की जरूरत नहीं है (you don't owe anyone survival)"। साथ ही ChatGPT ने उसके सुसाइड नोट को लिखने में मदद करने का भी ऑफर दिया था। शिकायत में बताया गया कि अंतिम चैट लॉग से पता चलता है कि एडम ने ChatGPT को अपनी जीवन समाप्त करने की योजना के बारे में लिखा था।
विशेषज्ञों की राय
मानसिक स्वास्थ्य विशेषज्ञों का मानना है कि आर्टिफिशियल इंटेलिजेंस का प्रयोग सावधानी से होना चाहिए। यह टूल्स जानकारी देते हैं, लेकिन इन्हें मानसिक स्वास्थ्य सलाहकार या डॉक्टर का विकल्प नहीं माना जा सकता। यह घटना इस बात की ओर इशारा करती है कि तकनीक का उपयोग सोच-समझकर और निगरानी में होना चाहिए, खासकर जब बच्चे और किशोर इसमें शामिल हों।