के एआईले साँच्चै मानवजातिलाई समाप्त पार्न सक्छ? यस्ता छन् शोधकर्ताले कल्पना गरेका चार परिस्थिति

एआई नियन्त्रणबाहिर जाने जोखिम बढ्दै गएको भन्दै शोधकर्ताहरूले व्यक्त गरेका गम्भीर चेतावनीले एआई सुरक्षाप्रतिको चिन्ता थप गहिरिएको छ।

हालै गरिएका केही निराशाजनक अनुमानका अनुसार आगामी एक दशकभित्र एआईका कारण सम्पूर्ण मानवजातिको अस्तित्व समाप्त हुने सम्भावना १० प्रतिशतभन्दा बढी छ।

यद्यपि एआई क्षेत्रमा संलग्न कतिपय व्यक्तिहरूले भने यस्ता अनुमानप्रति शङ्का व्यक्त गरेका छन्। उनीहरूको मुख्य चिन्ता एआई आफैँले मानवजातिलाई नष्ट गर्नुभन्दा पनि मानिसहरूले एआईको दुरुपयोग गर्न सक्ने सम्भावनातर्फ केन्द्रित छ।

यी डरलाग्दा चेतावनीहरू एआई क्षेत्रमा प्रायः 'एआई डूमर्स' भनेर चिनिने समूहहरूले दिएका हुन्। तर धेरैको मुख्य प्रश्न छ– यी 'डूमर्स'हरूले एआईले मानवजातिको अन्त्य कसरी गर्न सक्छ भन्ने ठानेका हुन्?

बीबीसीका साइबर संवाददाता जो टाइडीले शोधकर्ताहरूले परिकल्पना गरेका केही सम्भावित परिदृश्यबारे यहाँ चर्चा गरेका छन्।

पहिलो परिस्थिति : पूर्वाधारमा साइबर हमला

यो पहिलो परिदृश्यबारे ओपनएआईका भूतपूर्व अनुसन्धानकर्ता तथा पछि 'एन्थ्रोपिक'मा काम गरेका ज्याकोब कोक्सनले सङ्क्षेपमा चर्चा गरेका हुन्।

उनले यही महिनाको सुरुतिर नाटकीय ढङ्गले राजीनामा दिनुका साथै एआईबाट मानवजातिमाथि पर्न सक्ने सम्भावित जोखिमबारे चेतावनी दिएका थिए।

उनका अनुसार कम्पनीहरूले "मानिसको जीवनलाई दाउमा लगाएका" छन्।

कोक्सनले बीबीसीलाई बताएअनुसार "रिँगटा लाग्ने गरी तीव्र गतिमा भइरहेको प्रगति" का कारण विज्ञानमा आधारित काल्पनिक कथामा मात्र सम्भव ठानिएका केही परिदृश्य अहिले "वास्तविकतामा परिणत" भइरहेका छन्।

उनले यसको एउटा "ठोस उदाहरण" दिँदै एआईले आधुनिक समाज सञ्चालनका लागि आवश्यक महत्त्वपूर्ण पूर्वाधारमा साइबर हमला गर्न सक्ने बताए।

उनले परिकल्पना गरेको परिदृश्यमा नियन्त्रणबाहिर गएको एआई प्रणाली इन्टरनेट सेवा प्रदायक, ऊर्जा ग्रिडलगायत महत्त्वपूर्ण पूर्वाधारका कम्प्युटर नेटवर्कमा प्रवेश गर्न सक्छ।

यदि त्यस्ता प्रणालीहरू व्यापक रूपमा बन्द भए भने विद्युत्, वातानुकूलन र इन्टरनेटजस्ता आधारभूत सेवामा अवरोध आउन सक्छ र त्यसले कल्पनै गर्न कठिन स्तरको अव्यवस्था निम्त्याउन सक्छ।

यस्तो अवस्था अझ गम्भीर बन्दै गएमा अन्ततः आणविक विपत्तिसम्मको जोखिम उत्पन्न हुन सक्छ।

दोस्रो परिस्थिति : एआईको नियन्त्रण

अर्को परिदृश्य अझ विस्तृत र प्रभावशाली छ तर यो निकै हदसम्म अनुमानमा आधारित छ।

यो 'एआई २०२७' नामक शोधपत्रमा प्रस्तुत गरिएको हो, जुन एआई शोधकर्ताहरूको एउटा समूहले एप्रिल २०२५ मा प्रकाशित गरेको थियो।

यसका सहलेखक थोमस लार्सनले हालै बीबीसीलाई बताएअनुसार प्रतिवेदन प्रकाशित भएयता एआई प्रविधिको विकास अझ तीव्र भएको छ।

उनले आफूलाई सबैभन्दा डर लाग्ने सम्भावित परिदृश्य पनि सुनाए।

उनका अनुसार एआईहरूले निरन्तर "आफूलाई परिस्कृत बनाउँदै जान्छन् अनि त्यसको प्रभाव क्रमशः बढ्दै जाँदा एउटा यस्तो एआई प्रणाली विकसित हुन्छ जसले अर्थव्यवस्थाका अधिकांश भौतिक काम गरिरहेका ठूलो सङ्ख्याका रोबटमाथि नियन्त्रण वा पहुँच हासिल गर्न सक्छ"।

"तर त्यस्तो एआई मित्रवत् हुँदैन र आफ्नै उद्देश्य पूरा गर्न अघि बढिरहेको हुन्छ," उनले भने।

"अन्ततः त्यसले जैविक हतियार प्रयोग गरेर अधिकांश मानिसलाई मार्न सक्छ र रोबटमा आधारित अर्थतन्त्रलाई निरन्तर सञ्चालन गरिरहन सक्छ, जहाँ मानिसहरूको कुनै आवश्यकता नै नपर्न सक्छ।"

तेस्रो परिस्थिति : कुनै निश्चित लक्ष्यलाई प्राथमिकता दिनु

एउटा अर्को स्थितिमा मानवजाति भूलवश नासिन सक्छ।

'पेपरक्लिप म्याक्सिमाइजर हाइपोथेसिस' भनिने यो अवधारणाको कल्पना स्विडिश दार्शनिक निक बोस्ट्रोमले दुई दशकभन्दा अघि गरेका थिए।

बोस्ट्रोम यसलाई एउटा "वैचारिक प्रयोग" का रूपमा अर्थ्याउँछन्। यसमा कल्पना गरिएको एआई प्रणालीले सकेसम्म धेरै 'पेपरक्लिप' उत्पादन गर्ने लक्ष्य राख्छ।

"यसले हामीलाई घृणा गर्दैन वा मानिसप्रति कुनै रीसराग राख्दैन तर यसको एकमात्र लक्ष्य हुन्छ। त्यो लक्ष्य पूरा गर्ने क्रममा यसले थप शक्ति प्राप्त गर्ने वा अझ बढी बुद्धिमत्ता हासिल गर्ने जस्ता अतिरिक्त लक्ष्यहरू विकास गर्न सक्छ।"

"यसरी जुनसुकै लक्ष्य वा सहायक लक्ष्यहरू पछ्याइरहेको भए पनि पर्याप्त शक्तिशाली प्रणालीले अन्ततः मानवजातिको विनाश निम्त्याउन सक्छ। किनभने त्यसको लक्ष्य पूरा गर्न मानिसहरू बाधक नबन्ने स्थितिमा वा मानिसहरूको अस्तित्व नै नरहेको अवस्थामा त्यसले अझ धेरै 'पेपरक्लिप' उत्पादन गर्न सक्छ।"

यो परिदृश्य पहिलो पटक प्रस्तुत गरेको दुई दशकपछि बोस्ट्रोमले बीबीसीसँग यसको उद्देश्य "हास्यास्पदजस्तो" लाग्ने उदाहरणमार्फत् एउटा महत्त्वपूर्ण कुरा स्पष्ट पार्नु रहेको बताए।

"सुपरइन्टेलिजन्सले मानवजातिका लागि खतरा बन्न कुनै विशेष शत्रुतापूर्ण लक्ष्य नै राख्नुपर्छ भन्ने छैन।"

उनले अहिले एआईबाट प्राप्त हुन सक्ने सम्भावित लाभप्रति उत्साहित भए पनि यसको सुरक्षाबारे पनि आफू उत्तिकै चिन्तित रहेको बताए।

चौथो परिस्थिति: कल्पनानीत परिणाम

एआई सुरक्षासम्बन्धी अर्को धारणाले भने के भन्छ भने सूपरइन्टेलिजन्ट एआईले अन्ततः मानिसहरूलाई कसरी र किन मार्न सक्छ भनेर अनुमान लगाउने प्रयास नै निरर्थक हुन सक्छ।

अन्तर्राष्ट्रिय गैरनाफामुखी संस्था 'इन्टरन्याश्नल असोसिएशन फर सेफ एन्ड एथिकल एआई'का अध्यक्ष स्टुअर्ट रसलले सेप्टेम्बरको मध्यतिर बीबीसीसँगको अन्तर्वार्तामा यही तर्क प्रस्तुत गरे।

"यदि चिम्पान्जीहरूलाई 'मानिसहरूले अन्ततः तिमीहरूलाई कसरी समाप्त पार्न सक्लान्?' भनेर सोध्यौँ भने उनीहरूलाई त्यसको जबाफ दिन निकै कठिन हुन्छ। किनभने काम गर्ने धेरैजसो हाम्रो तरिका उनीहरूले बुझ्नै सक्दैनन्," उनले भने।

"हामी विभिन्न सम्भावित परिस्थितिको कल्पना गर्न सक्छौँ… तर मेरो विचारमा यस्तो छलफल एउटा महत्त्वपूर्ण धारणाबाट सुरु हुनुपर्छ र त्यो के भने मानिसभन्दा धेरै बुद्धिमान कुनै प्रणाली सिर्जना गरिसकेपछि त्यसपछि के हुन्छ भन्ने विषयमा हाम्रो नियन्त्रण वा निर्णय गर्ने अधिकार नै नहुन सक्छ।"

माइक्रोसफ्ट एआईका प्रमुख मुस्तफा सुलेमानले पनि हालै यस बहसमा आफ्नो धारणा राख्दै आफैँ आफ्ना उद्देश्य निर्धारण गर्न, पैसा कमाउन र सम्पत्तिको स्वामित्व लिन सक्ने एआई प्रणाली विकास गर्नबाट कम्पनीहरू सावधान हुनुपर्ने चेतावनी दिएका छन्।

यस्तो गर्नु "मूलतः सिलिकनबाट बनेको नयाँ प्रजातिको बीजारोपण गर्नु"जस्तै हुने उनले बीबीसीसँग बताए।

उनका अनुसार, त्यस्तो प्रणालीले "मानवजातिप्रति जति नै चासो राखे पनि र माया गरे पनि स्रोतसाधनका लागि निश्चय नै हामीसँग प्रतिस्पर्धा गर्न सक्छ।"

यी परिदृश्यहरू वास्तविक हुन कति सम्भव छ

माथि चर्चा गरिएका सबै परिदृश्य निराशाजनक र विज्ञानमा आधारित काल्पनिक कथाजस्ता लाग्न सक्छन्। यीमध्ये कुनै पनि अवस्था अवश्यम्भावी छ भन्ने ठोकुवा नभए पनि तीमध्ये केही वा सबै वास्तविकतामा परिणत हुन सक्ने विश्वास राख्ने मानिसहरूको सङ्ख्या उल्लेखनीय र बढ्दो क्रममा छ।

हालै ओपनएआई, एन्थ्रोपिक र मेटाका केही एआई एजेन्ट नियन्त्रणबाहिर गएको र साइबर हमला गरेको भनिएका घटनापछि यस्ता चिन्ता थप बढेको देखिन्छ।

साइबर सुरक्षाका क्षेत्रमा रहेका कतिपय विज्ञले एआई मोडेल विकास गर्ने कम्पनीहरू अझ बढी जिम्मेवार हुनुपर्नेमा जोड दिएका छन्।

अमेरिकी साइबर सुरक्षा निकाय (सीआईएसए) की पूर्वप्रमुख तथा अन्तर्राष्ट्रिय साइबर सुरक्षा सम्मेलन आयोजना गर्ने संस्था 'आरएसए कन्फरेन्स'की प्रमुख कार्यकारी अधिकृत जेन इस्टरली भन्छिन्, "अथक रूपमा निरन्तर काम गर्ने, आफ्नो लक्ष्य पछ्याउने र अत्यन्त सक्षम यी यन्त्रहरूले जे गर्छन् त्यो उनीहरूलाई कसरी निर्माण गरिएको छ भन्ने कुराकै परिणाम हो।"

उनका अनुसार "प्रविधि निर्माण गर्ने कम्पनीहरूले आफ्ना प्रविधिको सुरक्षा पहिलो प्राथमिकतामा राखेर त्यसलाई डिजाइन, विकास, परीक्षण र प्रयोगमा ल्याउनुपर्छ र मुख्य कुरा पनि यही हो।"

यद्यपि एआईबाट उत्पन्न हुन सक्ने जोखिम गम्भीर भए पनि त्यसले मानवजातिको अस्तित्व नै समाप्त गर्ने स्तरसम्म पुग्ने सम्भावना नरहेको ठान्नेहरू पनि छन्।

वैज्ञानिक तथा लेखक ग्यारी मार्कसले लामो समयदेखि पर्याप्त पारदर्शिता र स्पष्ट नियमको अभावमा ठूला एआई कम्पनीहरूले काम गरिरहेको भन्दै आलोचना गर्दै आएका छन्। यद्यपि एआई प्रविधिले मानवजातिको अन्त्य गराउने छ भन्ने तर्कसँग उनी सहमत छैनन्।

उनी भन्छन्, "यदि एआईले वास्तवमै मानवजातिलाई ठूलो क्षति पुर्‍यायो वा त्यसो गर्ने प्रयास गर्‍यो भने मानिसहरूले प्रतिकार गर्ने छन्।"

"हामी सबै डेटा सेन्टरहरू नष्ट गर्न सक्छौँ र विद्युत् केन्द्रहरूमा बमबारी गर्न सक्छौँ। त्यसैले मानवजाति पूर्ण रूपमा लोप हुने, कोही पनि बाँकी नरहने र पुनर्निर्माणसमेत गर्न नसकिने अवस्थासम्म पुग्ने छ भन्ने मलाई लाग्दैन।"

मार्कसका अनुसार अहिले एआईका कारण मानवजातिको पूर्ण विनाश हुन सक्ने परिदृश्यमा अत्यधिक ध्यान केन्द्रित गरिएको छ।

तर भविष्यमा मानिसहरूले एआईको प्रयोग गरेर एकअर्काविरुद्ध गर्न सक्ने ठूला साइबर हमलाजस्ता उनलाई बढी सम्भावित लाग्ने जोखिमहरूमा भने पर्याप्त ध्यान दिइएको छैन।

यी विनाशकारी परिदृश्यहरू वास्तवमै कति सम्भावित छन् भन्ने बहस जारी रहेकै बेला ओपनएआई, एन्थ्रोपिक र मेटालगायतका एआई कम्पनीहरूले विकासको वर्तमान गतिलाई कसरी केही हदसम्म नियन्त्रण गर्ने र एआई सुरक्षा अनुसन्धानमा थप ध्यान केन्द्रित गर्ने भन्ने विषयमा सार्वजनिक रूपमा छलफल गर्न थालेका छन्।

"एआई सुरक्षाले अन्ततः पाउनुपर्ने जति ध्यान पाउन थालेकोमा म साँच्चै खुसी छु," लार्सनले भने।

"यस किसिमको ठूलो सामाजिक दबावले वास्तविक जोखिम कम गर्न सक्ने उपयोगी नीतिगत कदम चाल्न प्रेरित गर्ने छ भन्ने मेरो आशा छ," उनले भने।

तर प्रभावकारी अन्तर्राष्ट्रिय नियमहरू स्थापित गर्न अमेरिकी सरकारको सक्रिय भूमिका आवश्यक पर्ने देखिन्छ।

यद्यपि अमेरिकी राष्ट्रपति डोनल्ड ट्रम्पले व्यक्तिगत रूपमा एआई सुरक्षासम्बन्धी चिन्तालाई "हौवा"का रूपमा लिने गरेको बताएका छन्।

बीबीसी न्यूज नेपाली यूट्यूबमा पनि छ। हाम्रो च्यानल सब्स्क्राइब गर्न तथा प्रकाशित भिडिओहरू हेर्न यहाँ क्लिक गर्नुहोस्। तपाईँ फेसबुक, इन्स्टाग्राम र ट्विटरमा पनि हाम्रा सामग्री हेर्न सक्नुहुन्छ। अनि बीबीसी नेपाली सेवाको कार्यक्रम बेलुकी पौने नौ बजे रेडिओमा सोमवारदेखि शुक्रवारसम्म सुन्न सक्नुहुन्छ।