काठमाडौं । कृत्रिम बुद्धिमत्ता (एआई) को तीव्र विकाससँगै यसको सम्भावित जोखिमबारे बहस पनि चर्किँदै गएको छ। एआई भविष्यमा मानव नियन्त्रणभन्दा बाहिर गएर मानव अस्तित्वमै चुनौती बन्न सक्ने हो कि भन्ने प्रश्न उठिरहेका बेला बिजनेस इन्साइडरले चार प्रमुख एआई प्रणाली-च्याटजिपिटी, जेमिनी, क्लाउड र ग्रोक-लाई एआई कसरी मानव जातिको अन्त्यको कारण बन्न सक्छ भन्ने प्रश्न गरेको छ।

चारै एआई प्रणालीले हलिउड चलचित्रमा देखाइने ‘टर्मिनेटर’ शैलीमा एआईले स्वेच्छाले मानिसमाथि आक्रमण गर्ने सम्भावनालाई मुख्य जोखिमका रूपमा अस्वीकार गरेका छन्। उनीहरूका अनुसार एआईमा मानिसप्रति स्वाभाविक घृणा वा शत्रुता उत्पन्न हुन्छ भन्ने आधार छैन। तर एआईको गलत प्रयोग वा अत्यधिक शक्तिशाली प्रणालीलाई पर्याप्त नियन्त्रणमा राख्न नसकिएमा त्यसले गम्भीर संकट निम्त्याउन सक्ने चेतावनी भने दिइएको छ।

जेमिनीका अनुसार एआई बढी सक्षम र बुद्धिमान हुँदैमा त्यसमा मानिसप्रति दुर्भावना उत्पन्न हुन्छ भन्ने हुँदैन। सैन्य तथा आणविक संरचनामा अझै मानवीय निगरानी र नियन्त्रण रहने भएकाले एआईले आफैं त्यस्ता संवेदनशील प्रणालीमाथि प्रत्यक्ष नियन्त्रण लिन सक्ने सम्भावना सीमित रहेको उसको विश्लेषण छ।

क्लाउड र ग्रोकले भने एआईको दुरुपयोगबाट जैविक सुरक्षामा गम्भीर जोखिम उत्पन्न हुन सक्ने पक्षलाई औँल्याएका छन्। गैरजिम्मेवार व्यक्ति वा समूहले एआईको क्षमता प्रयोग गरेर जैविक हतियार विकास वा घातक रोगजनकको दुरुपयोग गर्न सक्ने जोखिम उनीहरूले देखाएका छन्। यस्तो दुरुपयोगले ठूलो स्वास्थ्य संकट निम्त्याउन सक्ने उनीहरूको चेतावनी छ।

च्याटजिपिटीले भने साइबर आक्रमणलाई प्रमुख सम्भावित जोखिमका रूपमा प्रस्तुत गरेको छ। एआईको दुरुपयोगमार्फत विद्युत् प्रणाली, बैंकिङ पूर्वाधार, सञ्चार सञ्जाल तथा अन्य महत्वपूर्ण डिजिटल संरचनामाथि व्यापक साइबर आक्रमण गर्न सकिने जोखिम औँल्याइएको छ। यस्ता प्रणालीमा ठूलो अवरोध उत्पन्न भएमा त्यसको प्रभाव एउटा देशमा मात्र सीमित नरही अन्तर्राष्ट्रिय संकटसम्म फैलिन सक्ने सम्भावना रहन्छ।

चारै प्रणालीका विश्लेषणलाई समेट्दा एआईबाट उत्पन्न हुने सबैभन्दा ठूलो जोखिम त्यसको आफ्नै ‘इच्छा’ वा मानिसप्रतिको शत्रुताभन्दा पनि यसको मानवीय दुरुपयोग र नियन्त्रण गुम्ने अवस्थासँग जोडिएको देखिन्छ।

विशेषगरी मानिसभन्दा धेरै सक्षम एआई प्रणाली विकास गर्दै जाँदा त्यसको निर्णय प्रक्रियालाई सुरक्षित राख्ने, गलत निर्देशनबाट जोगाउने र आवश्यक पर्दा नियन्त्रण वा बन्द गर्न सक्ने संयन्त्र निर्माण गर्नु चुनौतीपूर्ण बन्दै जानेछ। पर्याप्त सुरक्षा उपायबिना अत्यधिक शक्तिशाली एआई प्रणाली प्रयोगमा ल्याइएमा त्यसले अनपेक्षित परिणाम निम्त्याउन सक्ने चिन्ता विज्ञहरूले पनि व्यक्त गर्दै आएका छन्।

यस अर्थमा एआई आफैं मानव सभ्यता समाप्त गर्न चाहन्छ भन्नेभन्दा पनि मानिसले निर्माण गरेको शक्तिशाली प्रविधि गलत हातमा पुग्दा वा त्यसलाई नियन्त्रण गर्ने क्षमता कमजोर हुँदा जोखिम बढ्न सक्ने देखिन्छ। त्यसैले एआईको विकाससँगै सुरक्षा, मानवीय निगरानी, जिम्मेवार प्रयोग र प्रभावकारी नियमनलाई समान प्राथमिकता दिनुपर्ने आवश्यकता औँल्याइएको छ।

एआईले स्वास्थ्य, शिक्षा, विज्ञान, अर्थतन्त्र र सञ्चारलगायत क्षेत्रमा ठूलो परिवर्तन ल्याउने सम्भावना बोकेको छ। तर यसको क्षमता जति तीव्र गतिमा विस्तार हुँदै जान्छ, त्यसको दुरुपयोग रोक्ने र मानव हितअनुकूल प्रयोग सुनिश्चित गर्ने चुनौती पनि त्यति नै महत्वपूर्ण बन्ने देखिन्छ।