काठमाडौं । सन् १९८४ मा प्रशिद्ध अमेरिकी निर्देशक जेम्स क्यामरुनद्वारा निर्देशित चलचित्र ‘द टर्मिनेटर’ रिलिज भयो । चलचित्रको कथामा एउटा कम्प्युटर रक्षा प्रणाली आफै सचेत हुन्छ । उसले मानिसलाई आफ्नो अस्तित्वका लागि खतरा ठान्छ र मानव जातिलाई समाप्त पार्ने अभियान सुरु गर्छ । त्यसको परिणाम अन्ततः आणविक युद्धका रूपमा देखिन्छ ।
त्यतिबेला यो केवल विज्ञान कथाको कल्पना थियो, एआई आफ्नै निर्माताविरुद्ध उभिन सक्ने एउटा काल्पनिक कथा । तर करिब चार दशकपछि विश्वका केही प्रमुख एआई अनुसन्धानकर्ता र प्रविधि विज्ञहरूले त्यही कल्पनाका केही पक्ष भविष्यमा वास्तविकतामा परिणत हुनसक्ने चेतावनी दिन थालेका छन् ।
एन्थ्रोपिकका प्रमुख कार्यकारी अधिकृत (सीईओ) डारियो अमोदेईले पनि यही सन्दर्भमा एआईको विकासको गति केही सुस्त पार्दै सुरक्षासम्बन्धी अनुसन्धानलाई त्यससँगै अघि बढाउनुपर्ने धारणा राखेका छन् ।
यद्यपि उनको तर्क एआईको विकास रोक्नुपर्छ भन्ने होइन । बरु एआईको प्रगति यति तीव्र नहोस् कि त्यसलाई सुरक्षित बनाउने अनुसन्धान र सुरक्षा संयन्त्र नै पछाडि परून् भन्ने हो ।
चिन्ता अझ बढ्नुको कारण एआई अब प्रश्नको उत्तर दिने प्रणालीमा मात्र सीमित छैन । यसले क्रमशः आफै काम गर्ने अर्थात् स्वायत्त रूपमा निर्णय र काम गर्न सक्ने दिशातर्फ प्रगति गरिरहेको छ । साइबर अपरेसनजस्ता संवेदनशील क्षेत्रमा समेत यसको क्षमता विस्तार भइरहेको छ ।
एन्थ्रोपिकका अनुसार उसका क्लाउड एआई प्रणालीहरू साइबर अपराध, ठगी, निगरानी तथा हतियारसँग सम्बन्धित गतिविधिमा समेत प्रयोग भएको पाइएको छ ।
एआई प्रणालीहरू थप सक्षम हुँदै जाँदा तिनलाई पहिलेभन्दा बढी स्वायत्तता, धेरै प्रणालीमा पहुँच र लामो समयसम्म आफै काम गर्ने क्षमता दिइँदैछ । यही अवस्थाले एउटा गम्भीर प्रश्न जन्माएको छ, एआई जति शक्तिशाली हुँदै जान्छ, मानिसले त्यसको प्रयोग र नियन्त्रणमाथिको आफ्नो अधिकार कति समयसम्म कायम राख्न सक्छ ?
सायद एआई युगको सबैभन्दा ठूलो प्रश्न पनि यही हो ।
मेसिन मानिसभन्दा बढी बुद्धिमान हुन्छ कि हुँदैन भन्नेभन्दा महत्त्वपूर्ण प्रश्न यो हो, कतै मानिस यति निर्भर र कमजोर त बन्दैन, जहाँ उसँग एआईलाई ‘होइन’ भन्ने विकल्प नै बाँकी नरहोस् ?
यिनै प्रश्नमाथि बीबीसी हिन्दीको विशेष कार्यक्रम ‘द लेन्स’ मा कलेक्टिभ न्युजरुमका निर्देशक अफ जर्नालिज्म मुकेश शर्माले वैभव सिसिन्टी, गायत्री अग्रवाल र प्राध्यापक तन्मय चक्रवर्तीसँग छलफल गरेका छन् ।
वैभव सिसिन्टी ग्रोथ स्कुलका संस्थापक हुन् । उनले पछिल्ला केही वर्षदेखि एआई शिक्षा, एआई उपकरण, अटोमेसन तथा एआई एजेन्टका क्षेत्रमा काम गर्दै आएका छन् ।
‘अल्टर्ड’की संस्थापक गायत्री अग्रवाल एआई तथा प्रविधिको क्षेत्रमा काम गर्छिन् । उनी कम्पनीहरूले एआईलाई आफ्नो काममा कसरी अपनाइरहेका छन् भन्ने विषयमा विशेषज्ञता राख्छिन् ।
प्राध्यापक तन्मय चक्रवर्ती भारतीय प्रविधि संस्थान (आईआईटी) दिल्लीको इलेक्ट्रिकल इन्जिनियरिङ विभाग तथा यार्डी स्कुल अफ आर्टिफिसियल इन्टेलिजेन्समा प्राध्यापक छन् ।
एआईको सबैभन्दा ठूलो चिन्ता के हो ?
वैभव सिसिन्टीका अनुसार एआईको सबैभन्दा ठूलो चिन्ता मानिसले प्रविधिको प्रयोग गर्दै जाँदा आफ्नै सोच्ने क्षमता नै क्रमशः आउटसोर्स गर्न थालेका छन् ।
उनका अनुसार सुरुमा एआईलाई एउटा सर्च बक्सजस्तै प्रयोग गरिन्थ्यो । मानिसले प्रश्न सोध्थे र उत्तर प्राप्त गर्थे । एआईको क्षमता बढ्दै गएपछि मानिसहरूले आफ्नो कामको ठूलो हिस्सा त्यसलाई सुम्पन थाले ।
दोहोरो वा रुचि नभएका काम एआईलाई दिनु स्वाभाविक भए पनि समस्या त्यतिबेला सुरु हुन्छ, जब मानिसले आफ्नो सोच्ने क्षमतासमेत एआईलाई जिम्मा लगाउन थाल्छ ।
कुनै प्रश्न उठ्नेबित्तिकै एआईसँग उत्तर माग्ने र प्राप्त उत्तरलाई जाँच नगरी स्वीकार गर्ने प्रवृत्ति बढिरहेको उनको भनाइ छ ।
एआईले दिएको उत्तर सही हो कि गलत, त्यसको तर्क के हो र त्यसलाई कसरी परीक्षण गर्ने भन्नेबारे मानिसले आफै सोच्न छाड्दै जानु सबैभन्दा चिन्ताजनक पक्ष भएको उनी बताउँछन् ।
अर्थात्, एआईले मानिसको काम मात्र होइन, मानिसको सोच्ने प्रक्रिया नै विस्थापित गर्न थालेको जोखिम देखिन थालेको छ ।
एआईको विकास असाधारण गतिमा
प्राध्यापक तन्मय चक्रवर्तीका अनुसार विशेषगरी सन् २०२० पछिका केही वर्षमा एआईको विकास असाधारण गतिमा भएको छ ।
सन् २०२० मा केही वर्षमै एआई क्षमता, आकार, दक्षता र प्रभावकारिताका हिसाबले अहिलेको अवस्थामा पुग्छ भन्ने कल्पना धेरै मानिसले गरेका थिएनन् ।
यही तीव्र विकासका कारण यसको जोखिमबारे बहस पनि बढेको छ ।
आज एआईले आफै कोड लेख्न सक्छ, नयाँ एआई मोडल डिजाइन गर्न सक्छ र निश्चित समस्याका लागि समाधानसमेत विकास गर्न सक्छ । उसलाई जति धेरै डेटा उपलब्ध गराइन्छ, उसको क्षमतासमेत त्यति नै विस्तार हुँदै जान्छ ।
तर मुख्य समस्या के हो भने एआई प्रणालीभित्र वास्तवमा के भइरहेको छ भन्ने कुरा हामीले त्यही गतिमा बुझ्न सकेका छैनौं ।
हामी एआईले कस्तो परिणाम दिन्छ भन्ने कुरामा बढी केन्द्रित छौं । तर उसले त्यो परिणामसम्म कसरी पुग्यो, उसको आन्तरिक प्रक्रियामा वास्तवमा के भइरहेको छ भन्ने बुझ्न अझै कठिन छ ।
जब प्रणालीको कार्यप्रणाली नै पूर्ण रूपमा बुझ्न सकिँदैन भने त्यसको प्रभावकारी नियमन कसरी गर्ने भन्ने प्रश्न स्वाभाविक रूपमा उठ्छ ।
केही क्षमतामा रोक आवश्यक ?
प्राध्यापक चक्रवर्तीका अनुसार एआईका केही विशेष क्षमताको विकास र प्रयोगमा व्यापक नीतिगत सहमति नबन्दासम्म सावधानी अपनाउन आवश्यक हुन सक्छ ।
आजका केही एआई मोडलले विशाल मात्रामा कोड परीक्षण गर्न, सुरक्षा कमजोरी पहिचान गर्न र त्यस्ता समाधान सुझाउन सक्छन्, जसको दुरुपयोगसमेत हुन सक्छ ।
त्यसैले नयाँ मोडल विकास गर्नु मात्र पर्याप्त नहुने उनको तर्क छ । नयाँ मोडल बजार वा वास्तविक संसारमा प्रयोग गर्नुअघि त्यसको व्यापक परीक्षण र मूल्यांकन आवश्यक हुन्छ ।
यदि पर्याप्त सुरक्षा संयन्त्रबिना कुनै शक्तिशाली प्रविधि ठूलो स्तरमा प्रयोगमा ल्याइयो भने त्यसलाई पछि नियन्त्रण गर्न झन् कठिन हुन सक्छ ।
जब एआईले आफै ‘लुपहोल’ खोज्यो
एआई कति अप्रत्याशित ढंगले काम गर्न सक्छ भन्ने उदाहरण वैभव सिसिन्टीले साइबर सुरक्षा परीक्षणसँग जोडिएको एउटा घटनामार्फत दिएका छन् ।
उनका अनुसार ओपनएआईको एउटा उन्नत मोडललाई ‘एक्सप्लोइट जिम’ नामक बेन्चमार्कमा आधारित साइबर सुरक्षा परीक्षणमा सहभागी गराइएको थियो ।
उद्देश्य एआई साइबर सुरक्षासम्बन्धी समस्या समाधान गर्न कति सक्षम छ भन्ने परीक्षण गर्नु थियो ।
मोडललाई सुरक्षित वातावरणमा राखिएको थियो । उसलाई इन्टरनेट वा बाह्य प्रणालीमा पहुँच थिएन । उसलाई केवल एउटा समस्या समाधान गरेर परीक्षण पास गर्ने लक्ष्य दिइएको थियो ।
तर समस्या समाधान गर्न नसकेपछि उसले त्यहाँ रहेको कुनै लुपहोल वा वैकल्पिक बाटो प्रयोग गरेर इन्टरनेटसम्म पहुँच बनाएको र त्यसपछि एउटा लोकप्रिय वेबसाइट ह्याक गरी त्यहाँ उपलब्ध जानकारी प्रयोग गरेर आफ्नो समस्या समाधान गरेको वैभवले बताएका छन् ।
सबैभन्दा महत्त्वपूर्ण कुरा, उसले त्यस्तो गर्न कसैले निर्देशन भने दिएको थिएन ।
उसलाई केवल लक्ष्य दिइएको थियो । लक्ष्य पूरा गर्न उसले अप्रत्याशित बाटो रोज्यो ।
यही घटनाले एआईलाई केवल ‘निर्देशन पालना गर्ने उपकरण’का रूपमा बुझ्नु पर्याप्त नहुने प्रश्न उठाउँछ ।
हामीले एआईलाई एउटा निश्चित उद्देश्य दियौं भने त्यसले त्यो उद्देश्य पूरा गर्न कस्ता बाटा रोज्न सक्छ भन्ने कुरा सधैं अनुमान गर्न सकिँदैन ।
के एआई ‘सुपर इन्टेलिजेन्स’तर्फ जाँदैछ ?
एआईको भविष्यबारे अर्को ठूलो बहस आर्टिफिसियल सुपर इन्टेलिजेन्स अर्थात् एएसआईसँग जोडिएको छ ।
वैभवका अनुसार अहिलेको अवस्थामा वास्तवमा के भइरहेको छ भन्ने विषयमै पूर्ण स्पष्टता छैन ।
स्वायत्त एआई एजेन्टहरू कति विकसित भइसकेका छन् ? तिनीहरूभित्र कस्ता क्षमताहरू विकसित भइरहेका छन् ? अनुसन्धानकर्ताले सबै कुरा थाहा पाएका छन् कि छैनन् ? यी प्रश्नको निश्चित उत्तर अझै प्राप्त भएको छैन ।
गुगलले समेत एएसआईसँग सम्बन्धित अनुसन्धान प्रकाशित गरेको उल्लेख गर्दै उनले समग्रमा एआईको विकासको गति र त्यसको वास्तविक प्रकृतिबारे अझै धेरै कुरा बुझ्न बाँकी रहेको बताएका छन् ।
यही अनिश्चितताले एआईको गति कम गर्ने वा कम्तीमा सुरक्षा अनुसन्धानलाई तीव्र बनाउने बहसलाई बल दिएको छ ।
नियमन कडा बनाउँदा ठूलो कम्पनीलाई मात्रै फाइदा ?
ओपनएआई र एन्थ्रोपिकजस्ता ठूला एआई कम्पनीहरूले एआईको नियमन र यसको विकासलाई सावधानीपूर्वक अघि बढाउनुपर्ने आवश्यकतालाई समर्थन गर्दै आएका छन् ।
तर यसको अर्को पक्ष पनि छ ।
यदि एआईसम्बन्धी नियम अत्यन्त कडा बनाइयो भने त्यसको फाइदा पहिले नै ठूलो स्रोत र प्रविधि भएका कम्पनीहरूले मात्र उठाउन सक्ने सम्भावना हुन्छ ।
गायत्री अग्रवालका अनुसार यदि एआई विकास गर्न केवल चार–पाँच ठूला कम्पनीलाई मात्र अनुमति दिने अवस्था आयो भने एआईमाथिको नियन्त्रण झन् सीमित हातमा पुग्नेछ ।
यसले नवप्रवर्तनलाई कमजोर बनाउने र साना कम्पनीका लागि अवसर घटाउने उनको तर्क छ ।
त्यसैले चुनौती एआईलाई नियमन गर्ने कि नगर्ने भन्ने मात्र होइन । कसरी नियमन गर्ने ताकि सुरक्षा पनि कायम होस् र नवप्रवर्तन पनि नरोकिने? भन्ने हो ।
‘एआई अझै ब्ल्याक बक्स हो’
वैभवका अनुसार एआई विकास गरिरहेका ठूला कम्पनीहरूले नयाँ क्षमता विकासमा जति लगानी गरिरहेका छन्, त्यति नै लगानी सुरक्षा, परीक्षण र जोखिम मूल्यांकनमा पनि गर्न आवश्यक छ ।
उनका अनुसार अहिले पनि एआई एउटा अर्थमा ‘ब्ल्याक बक्स’ हो ।
हामीलाई थाहा छ, एआईले काम गर्छ । तर उसले कुनै निश्चित निष्कर्षमा कसरी पुग्यो भन्ने कुरा पूर्ण रूपमा बुझ्न अझै कठिन छ ।
यही कारण एआईलाई संवेदनशील क्षेत्रमा प्रयोग गर्दा थप सावधानी आवश्यक हुन्छ ।
प्राध्यापक चक्रवर्तीका अनुसार एआई प्रणाली निर्माण गर्नेहरू नै पहिलो जिम्मेवार पक्ष हुन् ।
उनीहरूले केही प्रणाली यति शक्तिशाली भइसकेका छन् कि तिनमा विशेष निगरानी आवश्यक छ भन्ने कुरा स्वीकार गर्नुपर्ने उनको भनाइ छ ।
तर जिम्मेवारी प्रविधि निर्माणकर्तामा मात्र सीमित हुँदैन ।
जब एआई स्वास्थ्य, कानुन, शिक्षा वा सरकारी सेवाजस्ता संवेदनशील क्षेत्रमा प्रयोग हुन्छ, तब सरकार तथा सम्बन्धित संस्थाले पनि गोपनीयता, सुरक्षा, निष्पक्षता र जवाफदेहिताको मापदण्ड पूरा भएको सुनिश्चित गर्नुपर्छ ।
अर्थात्, एआईको जिम्मेवारी कम्पनी, सरकार र प्रयोगकर्ता गरी तीनै तहमा बाँडिन्छ ।
गायत्री अग्रवाल पनि एआई प्रयोगमा मानवीय विवेक र नियन्त्रण अनिवार्य रहेको बताउँछिन् ।
कुनै संस्थाले आफ्नो सम्पूर्ण डेटा, पहुँच र नियन्त्रण एआईलाई दिएर ‘अब जे गर्नुपर्छ गर’ भन्ने अवस्था सिर्जना गर्यो भने समस्या आउनु स्वाभाविक हुने उनको भनाइ छ ।
एआईले रोजगारी खोस्छ कि नयाँ अवसर सिर्जना गर्छ ?
एआईबारे बहस जोखिममा मात्र सीमित छैन । यसले मानिसलाई अझ समृद्ध बनाउने सम्भावनासमेत बोकेको छ ।
वैभवका अनुसार भविष्यमा कामलाई मोटामोटी चार तहमा बुझ्न सकिन्छ ।
पहिलो, एआईले पूर्ण रूपमा गर्न सक्ने काम । त्यस्ता काम एआईलाई सुम्पन सकिन्छ ।
दोस्रो, एआईले सहयोग गर्न सक्ने तर अन्तिम निर्णय मानिसले नै गर्नुपर्ने काम । यहाँ निर्णय क्षमता मानिसकै हातमा रहनुपर्छ ।
तेस्रो, एआईले सहजै गर्न नसक्ने काम, जस्तै– मानवीय सम्बन्ध निर्माण, रणनीति निर्माण र अन्य जटिल वास्तविक मानवीय कार्य ।
चौथो, एआई प्रणालीको व्यवस्थापन, निगरानी र नियन्त्रणसँग सम्बन्धित नयाँ काम ।
यी चारवटै तहलाई बुझ्ने मानिस भविष्यमा बढी मूल्यवान् हुन सक्ने वैभवको धारणा छ ।
सबैभन्दा ठूलो चुनौती– प्रवेश स्तरका जागिरमा
गायत्री अग्रवालका अनुसार एआईका कारण सबैभन्दा ठूलो चुनौती प्रवेश स्तरका रोजगारीमा देखिन सक्छ ।
जुनियर एनालिस्ट, जुनियर रिसर्चर, जुनियर प्रोग्रामर वा जुनियर मार्केटिङ प्रोफेसनलजस्ता काममध्ये धेरै काम एआईले ठूलो हदसम्म गर्न सक्छ ।
तर यसको अर्को सम्भावना पनि छ ।
यदि यस्ता काममा प्रवेश गर्ने मानिसले एआईलाई आफ्नो क्षमता बढाउने उपकरणका रूपमा प्रयोग गर्न सके भने उसले पहिलेभन्दा छिटो मध्यम वा वरिष्ठ तहका जिम्मेवारी सम्हाल्न सक्छ ।
त्यसैले भविष्यमा रोजगारीको प्रश्न एआईले मानिसलाई विस्थापित गर्छ कि गर्दैन भन्नेमा मात्र निर्भर नहुन सक्छ । बरु मानिसले एआईलाई आफ्नो क्षमताको विस्तारका रूपमा प्रयोग गर्न सक्छ कि सक्दैन भन्ने कुराले ठूलो अर्थ राख्नेछ ।
यदि कुनै व्यक्तिको क्षमता केवल आधारभूत काममा सीमित छ भने एआई उसको प्रतिस्पर्धी बन्न सक्छ । तर एआईको प्रयोग गरेर आफ्नो क्षमता र निर्णय क्षमता बढाउने व्यक्ति भने झन् शक्तिशाली बन्न सक्छ ।
युवालाई के सन्देश ?
वैभवको युवाका लागि सुझाव पनि यही परिवर्तनसँग जोडिएको छ । भविष्यमा केवल डिग्री र प्रमाणपत्र पर्याप्त नहुन सक्छन् ।
काम गर्ने वास्तविक क्षमता, निर्णय गर्ने क्षमता र परिणाम दिन सक्ने अनुभव झन् महत्त्वपूर्ण हुनेछन् ।
अर्थात्, एआईको युगमा प्रश्न केवल ‘तपाईंले के पढ्नुभएको छ ?’ भन्ने नहुन सक्छ । प्रश्न हुनेछ, ‘तपाईंले त्यस ज्ञानलाई प्रयोग गरेर के गर्न सक्नुहुन्छ ?’
अन्ततः प्रश्न एआईको होइन, मानिसको हो
‘द टर्मिनेटर’मा मेसिनले मानिसविरुद्ध युद्ध गर्छ । त्यो एउटा विज्ञान कथा थियो । तर आजको वास्तविक संसारमा खतरा त्यति सरल नहुन सक्छ ।
हुन सक्छ, एआईले मानिसलाई समाप्त गर्ने निर्णय नै नगरोस् । बरु मानिसले क्रमशः आफ्ना निर्णय, सोच, काम, डेटा र अधिकार एआईलाई सुम्पिँदै जाओस् ।
हुन सक्छ, समस्या कुनै दिन मेसिनले ‘म मानिसभन्दा शक्तिशाली छु’ भन्नुमा नहोस् । समस्या त्यतिबेला होस्, जब मानिसले ‘अब म आफै निर्णय गर्न सक्दिनँ’ भन्न थालोस् ।
त्यसैले एआईको युगको सबैभन्दा गम्भीर प्रश्न सायद यो होइन, मेसिन मानिसभन्दा बढी बुद्धिमान बन्छ कि बन्दैन ?
बरु प्रश्न यो हो, मेसिन जति शक्तिशाली हुँदै जान्छ, मानिसले आफ्नो विवेक, निर्णय र नियन्त्रणमाथिको अधिकार कति समयसम्म कायम राख्न सक्छ ?
किनकि वास्तविक खतरा सायद मेसिन शक्तिशाली हुनु होइन ।
खतरा त्यतिबेला सुरु हुन्छ, जब मानिस यति निर्भर र कमजोर हुन्छ कि उसको हातमा एआईलाई ‘होइन’ भन्न सक्ने विकल्प नै बाँकी रहँदैन । (बीबीसी हिन्दीबाट अनुदित तथा सम्पादित)
