काठमाडौं । मलेसिया र इन्डोनेसियाले एलन मस्कको कृत्रिम बौद्धिकता (एआई) च्याटबोट ग्रोकलाई सहमति विना तयार पारिएको यौनजन्य, अश्लील सामग्री उत्पादनमा प्रयोग भइरहेको भन्दै गत साता अन्त्यतिर प्रतिबन्ध लगाएका छन् ।
मलेसियाली नियामक निकायले आइतबार एक्सएआईको च्याटबोट ग्रोकमाथि अस्थायी प्रतिबन्ध लगाउन आदेश दिएको हो । नियामकका अनुसार एआई उपकरणसँग जोडिएका सामग्री जोखिम समाधान गर्न एक्स कर्पले ‘बारम्बार असफलता’ देखाएको छ ।
यस कदमभन्दा एक दिनअगाडि नै इन्डोनेसियाले पनि यस्तै चिन्ताका कारण ग्रोकमा अस्थायी रूपमा पहुँच रोकेको थियो र यस विषयमा स्पष्टिकरण दिन एक्सका अधिकारीहरूलाई आग्रह गरेको थियो । उक्त जानकारी सीएनबीसीले जारी वक्तव्यको अनुवादका आधारमा दिएको हो ।
दक्षिण–पूर्वी एसियाली यी मुलुकहरूको कदम त्यतिबेला आएको हो, जब एआई उपकरण प्रयोग गरेर केही प्रयोगकर्ताले सहमति विना तयार पारिएका यौनजन्य तस्बिर र डीपफेक सामग्री बनाएको पत्ता लागेको थियो । यसमा न्यून वस्त्रधारी नाबालकहरूलाई देखाइएका सामग्रीसमेत समावेश थिए ।
मस्कको कम्पनीले हालै ग्रोकको ‘ग्रोक इम्याजिन’ फिचर अद्यावधिक गरेको थियो, जसले पाठआधारित निर्देशन (प्रोम्प्ट) बाट सजिलै तस्बिर बनाउन सक्ने सुविधा दिएको छ । यो प्रणाली मस्कको सामाजिक सञ्जाल प्लेटफर्म एक्ससँग एकीकृत भएकाले यसको पहुँच व्यापक छ ।
ग्रोकको सामग्री नियमन (कन्टेन्ट मोडरेसन) नीतिप्रति चिन्ता बढ्दै जाँदा एक्सएआईले यौनजन्य आउटपुट सम्भव बनाउने सुरक्षा कमजोरीहरू सुधार्न तस्बिर निर्माण र सम्पादन फिचरहरू भुक्तानी गर्ने सदस्यहरूमा मात्र सीमित गर्ने घोषणा गरेको छ ।
एक्समा प्रतिक्रिया दिँदै मस्कले ग्रोकमार्फत गैरकानुनी सामग्री बनाउने प्रयोगकर्ताले सोही सामग्री सामाजिक सञ्जाल प्लेटफर्ममा सिधै अपलोड गरेसरह नै परिणाम भोग्नुपर्ने दाबी गरेका छन् ।
सीएनबीसीले सप्ताहन्तका घटनाक्रमबारे प्रतिक्रिया लिन एक्सएआईसँग सम्पर्क गर्ने प्रयास गरेको थियो । तर कम्पनीको प्रेस इमेलबाट ‘लिगेसी मिडिया लाइज’ (परम्परागत सञ्चारमाध्यमले झूट बोल्छन्) भन्ने स्वचालित सन्देश मात्र प्राप्त भएको थियो ।
‘अपर्याप्त’ प्रतिक्रिया
तर विवादका बीच एक्सले सार्वजनिक तथा निजी रूपमा दिएको प्रतिक्रिया इन्डोनेसिया र मलेसियाका नियामकहरू र अन्य अनुसन्धान थालेका निकायहरूलाई सन्तुष्ट पार्न असफल भएको बताएको छ ।
मलेसियाली सञ्चार तथा मल्टिमिडिया आयोगले एक्सका ‘अपर्याप्त’ जवाफहरू ‘मुख्यतः प्रयोगकर्ताबाट हुने उजुरी प्रणालीमै निर्भर रहेको र एआई उपकरणको डिजाइन तथा सञ्चालनबाट उत्पन्न हुने मौलिक जोखिमलाई सम्बोधन गर्न नसकेको’ जनाएको छ ।
आयोगले भनेको छ, ‘यसैले कानुनी तथा नियामक प्रक्रिया जारी रहँदासम्म रोकथामात्मक र अनुपातिक उपायका रूपमा प्रतिबन्ध लगाइएको हो । विशेषगरी महिला र बालबालिकासँग सम्बन्धित सामग्री रोक्न प्रभावकारी सुरक्षा उपाय लागू नभएसम्म ग्रोकमा पहुँच सीमित नै रहनेछ ।’
इन्डोनेसिया र मलेसिया दुवैमा कडा अश्लीलता विरोधी कानुन छन्, जसले अनलाइनमार्फत अश्लील तथा यौनजन्य सामग्री साझा गर्न प्रतिबन्ध लगाउँछ ।
यसैबीच इन्डोनेसियाको सञ्चार तथा डिजिटल मामिला मन्त्रालयकी मन्त्री मेउत्याफ हाफिदले ‘सहमति विना बनाइने यौनजन्य डीपफेकलाई सरकारले मानव अधिकार, गरिमा र डिजिटल क्षेत्रमा नागरिकको सुरक्षामाथिको गम्भीर उल्लङ्घनका रूपमा लिएको’ बताइन् ।
राज्य–स्वामित्वको अन्तारा न्युजमा साझा गरिएका वक्तव्यअनुसार हाफिदले नक्कली अश्लील सामग्री बनाउन एआईको दुरुपयोगलाई ‘डिजिटल–आधारित हिंसा’ को एक रूपसमेत भनेकी छन् ।
युरोपेली संघ, बेलायत, ब्राजिल र भारतलगायत अन्य क्षेत्रका निकायहरूले पनि अश्लील तथा सहमति बिना तयार पारिएका डीपफेक सामग्रीलाई सहज बनाएको आरोपमा ग्रोकको भूमिकामाथि अनुसन्धान आह्वान गरेका छन् ।
त्यसैगरी, वासिङ्टनका केही डेमोक्रेट सांसदहरूले मस्कले ठूला सुधार नल्याएसम्म एप स्टोरहरूले एआई उपकरण निलम्बन गर्नुपर्ने सिफारिस गरेका छन् ।
गत साता सीएनबीसीलाई पठाएको इमेलमा अमेरिकी न्याय मन्त्रालयले ‘एआईबाट उत्पादन हुने बाल यौन शोषण सामग्रीलाई अत्यन्त गम्भीर रूपमा लिने र यस्ता सामग्री उत्पादन वा स्वामित्वमा राख्ने जो–कोहीमाथि कडाइका साथ कारबाही गर्ने’ जनाएको थियो ।
मन्त्रालयले थप भनेको छ, ‘हामी बालबालिकाको संरक्षण गर्न र प्रविधिको दुरुपयोग गरेर सबैभन्दा कमजोर समूहलाई हानि पुर्याउने व्यक्तिलाई जवाफदेही बनाउन यस क्षेत्रमा कार्यान्वयनलाई अझ प्रभावकारी बनाउने उपायहरू खोजिरहेकै छौं ।’
