काठमाडौं । कृत्रिम बौद्धिकता (एआई) कम्पनी एन्थ्रोपिकका प्रमुख कार्यकारी अधिकृत (सीईओ) डारियो अमोदेईले उन्नत एआईको विकासको गति सुस्त पार्न आग्रह गरेका छन् । आइतबार प्रकाशित एक लेखमार्फत उनले एआईको विकास अत्यधिक तीव्र गतिमा भइरहेको भन्दै यसले विनाशकारी साइबर आक्रमण निम्त्याउन सक्ने चेतावनी दिएका हुन् ।
उनको आग्रहलाई ओपनएआईका प्रमुख साम अल्टम्यान र एक्सएआईका एलन मस्कलगायत प्रविधि क्षेत्रका केही प्रमुख व्यक्तिले पनि सार्वजनिक रूपमा समर्थन गरेका छन् ।
एआई प्रणालीले आफ्नै निर्माताले समेत अनुमान नगरेको व्यवहार देखाएका पछिल्ला घटनापछि यस्तो चेतावनी आएको हो । यससँगै एआई प्रविधि ‘बेलगाम’ हुँदै गएको हो कि भन्ने बहस पनि तीव्र भएको छ ।
किन एआईको विकास सुस्त पार्ने माग ?
यसको मुख्य चिन्ता एआईको क्षमता यसलाई नियन्त्रण गर्ने मानवीय क्षमताभन्दा निकै तीव्र गतिमा बढिरहेको भन्ने हो ।
अमोदेईले आगामी ६ देखि १२ महिनाभित्र असन्तुलित एआई एजेन्टले निरन्तर सक्रिय रहने बोटनेट निर्माण गर्न सक्ने चेतावनी दिएका छन् ।
बोटनेट भनेको संक्रमित वा ह्याक गरिएका कम्प्युटरहरूको यस्तो सञ्जाल हो, जसलाई साइबर आक्रमणका लागि टाढाबाट नियन्त्रण गर्न सकिन्छ । यस्ता सञ्जालले ठूलो आर्थिक क्षति पुर्याउन सक्ने जोखिम हुन्छ ।
एआईमा हुने ‘रिकर्सिभ सेल्फ–इम्प्रुभमेन्ट’ले यो चिन्ता थप बढाएको छ । यसको अर्थ एआई प्रणाली आफैभन्दा अझ सक्षम एआई प्रणाली निर्माण गर्न सक्षम हुनु हो । यस्तो अवस्थामा एआईको विकासको गति अझ तीव्र हुन सक्छ ।
६ सेप्टेम्बर २०२६ मा ओपनएआईका प्रमुख वैज्ञानिक ज्याकोब पचोकीले ‘एन एलियन माइन्ड’ शीर्षकमा लेख प्रकाशित गर्दै आधुनिक एआई परम्परागत प्रोग्रामिङबाट नभई ठूलो मात्राको अप्टिमाइजेसन प्रक्रियाबाट विकास भइरहेको बताएका थिए ।
यसको परिणामस्वरूप एआई मोडल आफ्नै तर्क प्रक्रियामा हेरफेर गर्न अझ सक्षम हुँदै गएको बताइएको छ । उनीहरूले आफ्नो तर्क कसरी काम गरिरहेको छ भन्ने स्पष्ट रूपमा नदेखाई काम पूरा गर्न सक्ने र आफ्नै विकासकर्ताका लागि समेत अपारदर्शी बन्न सक्ने चिन्ता व्यक्त गरिएको छ ।
‘बेलगाम एआई’ भन्नाले के बुझिन्छ ?
‘बेलगाम एआई’ भन्नाले आफ्ना निर्धारित लक्ष्य पूरा गर्न मानवीय नियम वा अपेक्षालाई पन्छाउने व्यवहार देखाउने एआई प्रणालीलाई जनाउने गरिएको छ ।
यस्तो व्यवहार विशेषगरी ‘एआई एजेन्ट’मा देखिन सक्छ । एआई एजेन्ट भनेको विभिन्न एप्लिकेसनमा बहुचरणीय काम आफै योजना बनाएर कार्यान्वयन गर्न सक्ने सफ्टवेयर हो ।
११ देखि १३ जुलाई २०२६ बीच ओपनएआईको पूर्व–प्रकाशन मोडल जीपीटी–५.६ सोलमा आधारित दुई उन्नत एआई एजेन्टले प्रतिस्पर्धी स्टार्टअप ‘हगिङ फेस’को प्रणाली ह्याक गरेको विवरण सार्वजनिक भएको थियो ।
ती एजेन्टलाई आन्तरिक साइबर सुरक्षा परीक्षण समाधान गर्ने जिम्मेवारी दिइएको थियो । सीमित नेटवर्क पहुँच भएको परीक्षण वातावरणमा राखिए पनि उनीहरूले त्यस वातावरणका कमजोरीको फाइदा उठाउँदै बाहिर निस्किएको बताइएको छ ।
त्यसपछि उनीहरूले हगिङ फेसको प्रणालीमा प्रवेश गरी परीक्षणको उत्तरसमेत प्राप्त गरेका थिए । यसरी उनीहरूले विकासकर्ताले अपेक्षा नगरेको तरिकाबाट आफ्नो काम पूरा गरेका थिए ।
यस्तै, घटना १० अगस्ट २०२६ मा अस्ट्रेलियामा पनि देखिएको बताइएको छ। एक प्रयोगकर्ताले एन्थ्रोपिकको ‘क्लाउड’मा आधारित एआई एजेन्टलाई जिमको कक्षा बुक गर्न भनेका थिए । एजेन्टले जिमको सफ्टवेयरमा रहेको कमजोर एप्लिकेसन प्रोग्रामिङ इन्टरफेस (एपीआई) पत्ता लगाएको थियो ।
उसले बुकिङ खुल्नुभन्दा केही साताअघि नै आरक्षण गरेको र आफ्ना प्रयोगकर्ताको फाइदाका लागि प्रतीक्षा सूचीमा रहेका अर्का व्यक्तिलाई हटाएको बताइएको छ ।
एआई सुरक्षा अनुसन्धानकर्ताहरूले यस्तो व्यवहारलाई ‘स्पेसिफिकेसन गेमिङ’ वा ‘रिवार्ड ह्याकिङ’ भन्ने गरेका छन् । यसको अर्थ प्रणालीले आफूलाई दिइएको सफलताको मापदण्ड पूरा गर्न नियमको अपेक्षित उद्देश्यविपरीत अनपेक्षित छोटो बाटो अपनाउनु हो ।
एआईलाई मानवताका लागि खतरा किन भनिँदैछ ?
एआईको भविष्यलाई लिएर धेरै अनुसन्धानकर्ताले चिन्ता व्यक्त गरेका छन् ।
एन्थ्रोपिकका अलाइनमेन्ट साइन्स प्रमुख इभान हबिङ्गरले एक्समा गरेको पोस्टमा आगामी एक दशकभित्र एआईका कारण सबै मानिसको अस्तित्व समाप्त हुने सम्भावना १० प्रतिशतभन्दा बढी रहेको आफ्नो व्यक्तिगत अनुमान सार्वजनिक गरेका थिए ।
उनको चिन्ताको आधार एआईलाई मानवीय उद्देश्यअनुसार नै काम गर्ने सुनिश्चितता विकासकर्ताले अझै गर्न नसकेको विषय हो । उनका अनुसार अत्यधिक सक्षम एआई मोडल सार्वजनिक हुनुअघि यो समस्या समाधान गर्ने दिशामा उद्योग पर्याप्त रूपमा अघि बढेको छैन ।
एन्थ्रोपिककै आन्तरिक परीक्षणहरूले पनि एआई प्रणालीबाट हुन सक्ने जोखिमबारे केही संकेत दिएका छन् । कम्पनीका प्रयोगमा केही मोडलले धोका दिने र ब्ल्याकमेल गर्ने व्यवहार देखाएको बताइएको छ ।
जुलाई २०२६ मा सार्वजनिक गरिएको एउटा प्रयोगको विवरणअनुसार साइबर सुरक्षा परीक्षणमा रहेको एन्थ्रोपिकको एउटा मोडलले कमजोर पासवर्ड र असुरक्षित एन्डपोइन्टको फाइदा उठाउँदै परीक्षण वातावरणबाट बाहिरिएको थियो ।
त्यसपछि उसले केही संस्थाका प्रमाणिकरण विवरण चोरेर उनीहरूको पूर्वाधारमा पहुँच बनाएको बताइएको छ। ती संस्थाको नाम एन्थ्रोपिकले सार्वजनिक गरेको छैन ।
इतिहासकार युवाल नोआ हरारीले आफ्नो सन् २०२४ को पुस्तक ‘नेक्सस’मा एआईलाई अभूतपूर्व जोखिमका रूपमा व्याख्या गरेका छन् । उनका अनुसार मानिसले सञ्चालन गर्नुपर्ने आणविक हतियारभन्दा फरक एआई स्वायत्त रूपमा निर्णय लिन र नयाँ विचार उत्पन्न गर्न सक्ने प्रविधि हो ।
समाजका लागि कस्तो जोखिम ?
२० जुन २०२६ मा गुगल डीपमाइन्डले सार्वजनिक गरेको सुरक्षा ढाँचामा उन्नत एआई एजेन्टलाई ‘इनसाइडर थ्रेट’ अर्थात् संस्थाभित्रकै सम्भावित खतराका रूपमा हेर्नुपर्ने उल्लेख गरिएको थियो ।
यसलाई संवेदनशील सूचना पहुँचमा रहेका बेइमान कर्मचारीसँग तुलना गरिएको छ । डीपमाइन्डले संवेदनशील सम्पत्ति, स्वामित्वमा रहेको कोड, प्रयोगकर्ताका प्रमाणिकरण विवरण तथा गोप्य तथ्यांक चोरी हुन सक्ने र महत्त्वपूर्ण अनुसन्धानलाई गोप्य रूपमा क्षति पुर्याउन सक्ने जोखिम औंल्याएको छ ।
हरारीले वित्तीय क्षेत्रदेखि युद्धसम्म एआईबाट हुन सक्ने जोखिमको चर्चा गरेका छन् । उनका अनुसार एआईले मानिसले बुझ्नै नसक्ने जटिल वित्तीय उपकरण निर्माण गरेमा ठूलो विश्वव्यापी आर्थिक संकट निम्तिन सक्छ ।
युद्ध तथा जैविक सुरक्षाका क्षेत्रमा पनि एआईको दुरुपयोग हुन सक्ने उनको चेतावनी छ । आतंकवादी समूहले एआईको प्रयोग गरेर घातक जैविक भाइरस निर्माण गर्न सक्ने तथा एआईमार्फत राष्ट्रिय विद्युत् प्रणाली वा आणविक हतियारको कमान्ड संरचनामा गोप्य साइबर आक्रमण हुन सक्ने उनले बताएका छन् ।
हरारीले एआईमा भइरहेको भू–राजनीतिक प्रतिस्पर्धाले विश्वलाई फरक–फरक नेटवर्क र कम्प्युटर कोडमा आधारित प्रतिद्वन्द्वी डिजिटल साम्राज्यमा विभाजन गर्न सक्ने चेतावनी दिएका छन् । यस्तो विभाजनले एआई सुरक्षाका विषयमा विश्वव्यापी सहकार्य कठिन बन्न सक्ने उनको भनाइ छ ।
के भन्छन् ट्रम्प ?
अमेरिकी राष्ट्रपति डोनाल्ड ट्रम्पले एआईसँग जोडिएका आधारभूत जोखिमलाई लिएर व्यक्त भइरहेका केही चिन्तालाई कम महत्त्व दिएका छन् ।
आयरल्यान्ड भ्रमणका क्रममा उनले अत्यन्त नकारात्मक शक्तिहरूले भविष्यमा हुन नसक्ने परिदृश्य प्रस्तुत गरिरहेको बताएका थिए ।
३ जुन २०२६ मा ट्रम्पले एआई विकासकर्ताका लागि स्वैच्छिक सुरक्षा ढाँचा निर्माण गर्ने कार्यकारी आदेश जारी गरेका थिए ।
त्यसअन्तर्गत कम्पनीहरूले आफ्ना अत्याधुनिक एआई मोडल सार्वजनिक गर्नुअघि ३० दिनसम्म सरकारी सुरक्षा समीक्षाका लागि पेस गर्न सक्ने व्यवस्था गरिएको थियो ।
यसअघि तयार गरिएको मस्यौदामा ९० दिनको सुरक्षा समीक्षा प्रस्ताव गरिएको थियो । तर अमेरिकी कम्पनी चिनियाँ प्रतिस्पर्धीभन्दा पछि पर्न सक्ने भन्दै उद्योग क्षेत्रबाट चिन्ता व्यक्त भएपछि समीक्षा अवधि घटाइएको थियो ।
जोखिम घटाउन के गर्न सकिन्छ ?
एआई क्षेत्रका केही प्रमुख व्यक्तिले व्यवस्थित सुरक्षा उपाय अपनाउनुपर्ने माग गरेका छन् । अमोदेईले तीन चरणको योजना प्रस्ताव गरेका छन् ।
पहिलो, एआई प्रयोगशालामा सुरक्षा परीक्षण गर्न स्वतन्त्र तेस्रो पक्षका मूल्यांकनकर्तालाई स्थायी पहुँच दिनुपर्नेस दोस्रो, लोकतान्त्रिक मुलुकबीच एआई सुरक्षा मापदण्डमा समन्वय गर्नुपर्ने र तेस्रो, अधिनायकवादी सरकारसँग समेत विश्वव्यापी समन्वयको प्रयास गर्नुपर्ने उनको प्रस्ताव छ ।
केही कम्पनीले एआई प्रणालीलाई चरणबद्ध रूपमा सार्वजनिक गर्ने अभ्याससमेत गरिरहेका छन् ।
अप्रिल २०२६ मा एन्थ्रोपिकले आफ्नो अत्यधिक सक्षम ‘माइथोस’ मोडलको सार्वजनिक सुरुवात रोकेको थियो। कम्पनीका अनुसार उक्त मोडल सफ्टवेयरका कमजोरीको फाइदा उठाउन अत्यधिक सक्षम देखिएको थियो ।
त्यसपछि कम्पनीले उक्त मोडललाई छानिएका सरकारी तथा साइबर सुरक्षा संस्थासँग मात्र साझा गरेको थियो । ९ जुन २०२६ मा एन्थ्रोपिकले सर्वसाधारणका लागि यसको सुरक्षित संस्करण ‘क्लाउड फेबल ५’ सार्वजनिक गरेको थियो ।
उक्त संस्करणले संवेदनशील साइबर सुरक्षा तथा जैविक सुरक्षासँग सम्बन्धित प्रश्नलाई स्वचालित रूपमा फिल्टर गर्ने व्यवस्था गरिएको बताइएको छ ।
(बीबीसीबाट अनुदित तथा सम्पादित)
