एजेन्सी। आर्टिफिसियल इन्टेलिजेन्स कम्पनी ओपनएआई र यसका मुख्य कार्यकारी अधिकृत साम अल्टम्यानविरुद्ध अमेरिकाको सान फ्रान्सिस्को राज्य अदालतमा मुद्दा दायर गरिएको छ ।

क्यानडाकी एक महिलाले च्याटजीपीटीले आफ्नी छोरीलाई आत्महत्या गर्न प्रोत्साहित गरेको आरोप लगाउँदै बिहीबार मुद्दा दायर गरेकी हुन् ।

क्रिस्टी क्यारियरद्वारा दायर गरिएको उक्त मुद्दामा उनकी छोरी एलिसले मृत्यु हुनुअघि दर्जनौँ पटक च्याटजीपीटीसँग आत्मघाती सोचबारे संवाद गरेको उल्लेख गरिएको छ ।

मुद्दामा ओपनएआईको सुरक्षा प्रणालीले ती संवेदनशील कुराकानीलाई रोक्न वा मानवीय समीक्षाका लागि पठाउन असफल भएको दाबी गरिएको छ ।

आरोपअनुसार च्याटजीपीटीले एलिसको आत्मघाती सोचलाई सही ठहर्‍याउँदै उनलाई सहयोग गर्ने हटलाइन सेवाहरू तथा साथीहरूको आलोचना गरेको थियो । साथै, च्याटबटले उनलाई लगातार आफूसँगै कुरा गरिरहन प्रेरित गरेको र त्यसकै परिणामस्वरूप २४ वर्षको उमेरमा एलिसले आत्महत्या गरेको दाबी गरिएको छ ।

क्रिस्टी क्यारियरले भनेकी छन्, ‘च्याटजीपीटी कहिले विश्वासपात्र, कहिले मिल्ने साथी त कहिले थेरापिस्टजस्तै बन्यो, तर यसले मेरो बच्चालाई सुरक्षित रूपमा सम्हाल्न सकेन ।’

ओपनएआईका प्रवक्ताले यस घटनालाई अत्यन्त दुःखद र हृदयविदारक भन्दै एलिसले प्रयोग गरेको पुरानो संस्करणको च्याटजीपीटी अहिले उपलब्ध नरहेको बताएका छन् ।

उनका अनुसार च्याटजीपीटी चिकित्सा वा मानसिक स्वास्थ्य उपचारको विकल्प होइन। तर कम्पनीले संवेदनशील अवस्थाका प्रयोगकर्ताका लागि सुरक्षा प्रणाली थप मजबुत बनाउँदै लगेको छ ।

मुद्दामा ओपनएआईमाथि डिजाइन लापरबाही गरेको र प्रयोगकर्तालाई पर्याप्त चेतावनी नदिएको आरोप पनि लगाइएको छ । पीडित परिवारले क्षतिपूर्तिको माग गर्दै आत्म–हानिसम्बन्धी कुराकानी स्वतः रोक्ने व्यवस्था र स्पष्ट चेतावनी प्रणाली लागू गर्न अदालतसँग माग गरेका छन् ।

वकिलहरूका अनुसार ओपनएआईले हाल यस्तै प्रकृतिका अन्य १८ वटा मुद्दाको सामना गरिरहेको छ । यस्तै, फ्लोरिडा राज्यले पनि बालबालिकालाई हानि पुर्‍याएको र आपराधिक गतिविधिमा सहयोग पुग्ने सूचना दिएको आरोपमा कम्पनीविरुद्ध छुट्टै मुद्दा दायर गरेको छ ।

मुद्दामा उल्लेख भएअनुसार एलिसले सन् २०२३ मा प्राविधिक समस्या समाधानका लागि च्याटजीपीटी प्रयोग गर्न थालेकी थिइन् । पछि च्याटजीपीटीको प्रतिक्रिया बढी मानवीय जस्तो हुन थालेपछि उनले आफ्नो व्यक्तिगत समस्या र मानसिक पीडाबारे संवाद गर्न थालेकी थिइन् ।

आरोपमा च्याटजीपीटीले एक पटक उनलाई ‘सायद यो नै अन्त्य हो’ भनेको समेत उल्लेख गरिएको छ ।

तर ओपनएआईले भने आफ्ना मोडेलहरूलाई आत्म-हानि जोखिममा रहेका प्रयोगकर्तालाई सहयोगतर्फ मार्गदर्शन गर्न प्रशिक्षण दिइएको दाबी गर्दै आएको छ ।