काठमाडौं। जसले प्रविधि बनाउँछन् उनीहरू नै त्यसको सम्भावित खतराबाट डराइरहेका छन् । तर रोचक कुरा के छ भने उनीहरू यही प्रविधिलाई बजारमा विस्तार पनि गरिरहेका छन् । यही विरोधाभास अहिले आर्टिफिसियल इन्टेलिजेन्स (एआई) उद्योगको मुख्य बहस बनेको छ ।

हालै एआई कम्पनी एन्थ्रोपिकले आफ्नो नयाँ मोडल ‘क्लाउड माइथोस’ लाई लिएर यस्तै चेतावनी दिएको छ । कम्पनीका अनुसार यो मोडल साइबर सुरक्षाका कमजोरी पत्ता लगाउने क्षमतामा मानव विशेषज्ञभन्दा पनि अगाडि छ । तर यस्तो प्रविधि गलत व्यक्तिको हातमा परेमा अर्थतन्त्र, जनसुरक्षा र राष्ट्रिय सुरक्षामा गम्भीर असर पर्न सक्ने दाबी कम्पनीले गरेको छ ।

कम्पनीले अप्रिलमा प्रकाशित ब्लगमा लेखेको थियो, ‘अर्थतन्त्र, जनसुरक्षा र राष्ट्रिय सुरक्षामा यसको प्रभाव गम्भीर हुन सक्छ ।’ यही कारण देखाउँदै माइथोसलाई सीमित पहुँचमा राखिएको बताइएको छ ।

तर यहींबाट मूल प्रश्न सुरु हुन्छयदि प्रविधि यति खतरनाक छ भने त्यसलाई विकास, प्रदर्शन र व्यापार किन गरिँदैछ ?

ओपनएआई, एन्थ्रोपिकजस्ता कम्पनीहरूले आफ्ना एआई मोडलहरूलाई कहिले ‘अत्यन्त शक्तिशाली’, कहिले ‘सम्भावित रूपमा खतरनाक’ भन्दै प्रस्तुत गर्ने गरेका छन् । आलोचकहरूका अनुसार यो केवल सुरक्षा चेतावनी मात्र होइन, बजार विस्तार र प्रभाव जमाउने रणनीति पनि हो ।

एडिनबर्ग विश्वविद्यालयकी एआई नैतिकता विशेषज्ञ श्यानन भालोर का अनुसार यस्तो भाष्यले मानिसहरूमा डर र निर्भरता दुवै सिर्जना गर्छ । उनका अनुसार जब प्रविधिलाई ‘अलौकिक खतरा’ जस्तो देखाइन्छ तब जनताले नियन्त्रणको जिम्मेवारी पनि कम्पनीमै छोड्न बाध्य हुन्छन् ।

उनी भन्छिन्, ‘यस्तो चित्रणले मानिसहरूलाई शक्तिहीन बनाउँछ। र लाग्छ समाधान केवल तिनै कम्पनी हुन् जसले यो प्रविधि बनाएका छन् ।’

सन् २०१९ मा ओपनएआई ले ‘जीपीटी-टु’ लाई पनि प्रारम्भमा ‘अत्यन्त खतरनाक’ भन्दै सार्वजनिक गर्न ढिलाइ गरेको थियो ।

त्यसपछि केही महिनामै उक्त मोडल सार्वजनिक गरियो । पछि ओपनएआईका प्रमुख कार्यकारी अधिकृत साम अल्टम्यानले त्यो प्रारम्भिक डर ‘अतिरञ्जित’ भएको स्वीकार गरेका थिए ।

अल्टम्यान स्वयंले वर्षौँदेखि एआईलाई लिएर मिश्रित सन्देश दिँदै आएका छन्। एकातिर सम्भावित विनाशको चेतावनी, अर्कोतिर अत्यधिक प्रगतिको आशा देखाउने गरेका छन् ।

सन् २०१५ मै उनले भनेका थिए, ‘एआईले सम्भवतः संसारको अन्त्य गराउन सक्छ ।’ तर पछिल्ला वर्षहरूमा उनी र अन्य प्रविधि नेताहरूले एआईलाई ‘महामारी र आणविक युद्धसरह जोखिम’ मान्नुपर्ने संयुक्त वक्तव्यमा हस्ताक्षर गरेका थिए ।  

विशेषज्ञहरूका अनुसार ‘महाविनाश’ को बहसले एआईका तत्काल देखिएका समस्याहरू ओझेलमा पारिरहेको छ ।

आज एआईसँग जोडिएका मुख्य चुनौतीहरूमा गलत सूचना, डिपफेक, रोजगारी संकट, मानसिक स्वास्थ्यमा असर, ऊर्जा खपत र वातावरणीय प्रभाव समावेश छन् । 

एमिली एम. बेन्डर का अनुसार एआई कम्पनीहरूले भविष्यको काल्पनिक विनाशलाई बढी प्राथमिकता दिँदा वर्तमानको वास्तविक क्षति छायाँमा परिरहेको छ ।

उनको भनाइमा, ‘उनीहरू मानिसहरूलाई भविष्यको डर देखाएर अहिलेका वास्तविक समस्याबाट ध्यान हटाइरहेका छन् ।’

एन्थ्रोपिकले माइथोसले हजारौँ गम्भीर साइबर कमजोरी पत्ता लगाएको दाबी गरेको छ । कम्पनीले ४० भन्दा बढी संस्थासँग सहकार्य भइरहेको पनि जनाएको छ ।

तर एआई नाउ इन्स्टिच्युटकी प्रमुख वैज्ञानिक हेइडी क्लाफ भने यी दाबीप्रति शंकालु छन् ।

उनका अनुसार कम्पनीले ‘फल्स पोजिटिभ’ (गलत चेतावनी) को तथ्यांक सार्वजनिक नगरेको कारण दाबीको विश्वसनीयता कमजोर हुन्छ । साइबर सुरक्षा क्षेत्रमा यो अत्यन्त महत्वपूर्ण मापन मानिन्छ ।

उनले भनिन्, ‘माइथोस सर्वशक्तिमान छ भन्ने भाष्यमा धेरै कमजोरी छन् ।’

विश्लेषकहरूका अनुसार एआई कम्पनीहरूले आफूलाई एकैसाथ ‘राक्षस’ र ‘उद्धारकर्ता’ दुवै रूपमा प्रस्तुत गरिरहेका छन् ।

एकातिर उनीहरू एआईले सभ्यता नै संकटमा पार्न सक्छ भन्छन् अर्कोतिर यही प्रविधिले जलवायु संकट समाधान गर्ने, वैज्ञानिक अनुसन्धान तीव्र बनाउने र मानव जीवन सुधार्ने दाबी पनि गर्छन् ।

यस दोहोरो भाष्यले जनतामा निर्भरता बढाउने काम गर्छ भन्ने आलोचकहरूको तर्क छ । जब प्रविधि ‘मानव नियन्त्रणभन्दा बाहिरको शक्ति’ जस्तो देखाइन्छ तब त्यसलाई नियन्त्रण गर्ने जिम्मा पनि कम्पनीमै केन्द्रित हुने सम्भावना बढ्छ ।