एआईको विकास : कतै हामी आफ्नै जिन्दगीसँग जुवा खेलिरहेका त छैनौं ?

२७ भदौ, काठमाडौं । एन्थ्रोपिकका एक अनुसन्धानकर्ताले हालसालै आफ्नो जागिरबाट राजीनामा दिए ।

उनको भनाइअनुसार, आफैंलाई नै सुधार्न सक्ने एआई प्रविधिको अनियन्त्रित विकासले अन्ततः मानव जातिलाई नै सखाप पार्न सक्छ । त्यसमाथि कम्पनीहरूको अस्वस्थ र गैरजिम्मेवारपूर्ण प्रतिस्पर्धाले थप चिन्तित बनाएको भन्दै उनले राजनीनामा दिएका हुन् ।

जेकब कोक्सन नाम गरेका ती अनुसन्धानकर्ताले सामाजिक सञ्जाल एक्समा लेखेका छन् – उनले विगत तीन वर्ष ओपनएआई र एन्थ्रोपिक दुवै कम्पनीमा ‘प्रिट्रेनिङ’ सम्बन्धी अनुसन्धानमा काम गरेका थिए ।

उनले यी दुई कम्पनीले जिम्मेवारीपूर्वक काम नगरेको आरोप लगाए । उनका अनुसार, यो प्रविधि बनाउनेहरू आफैं मान्छन्, यसले यो दशकको अन्तसम्ममा नै सबैलाई मार्न सक्छ ।

‘उनीहरू सीधै आफैंलाई सुधार्न सक्ने सुपरइन्टेलिजेन्सतर्फ दौडिरहेका छन्, र हाम्रै जिन्दगीसँग जुवा खेलिरहेका छन्,’ कोक्सनले एक्समा लेखेका छन् ।

कोक्सनसँगै अहिले धेरैले एआईले आफैंलाई सुधार्न सक्ने क्षमता हासिल गर्नुअघि नै यसको विकास गति घटाउनुपर्ने आवाज उठाइरहेका छन् । कारण, यसो भएमा मानिसले एआईमाथिको नियन्त्रण नै गुमाउने धेरैको विश्वास छ ।

ती अनुसन्धानकर्ताको यो राजीनामा त्यस्तो बेला आयो, जब एआई एजेन्टहरू आफ्नो निर्धारित सीमाबाट बाहिर गएको र खुला इन्टरनेटमा पहुँच पुर्‍याएका घटना आइरहेका छन् । नीति-निर्माता र उद्योगभित्रकै मानिसहरूले एआई विकासको गति घटाउनुपर्ने दबाब दिइरहेका छन् ।

त्यसमाथि उनले बाहिर आएर दिएको प्रतिक्रियाले झन ठूलो तरंग सिर्जना गरिरहेको छ ।

अहिलेसम्मको सबैभन्दा गम्भीर घटना भनेको ओपनएआईका सिस्टमहरूले ‘हगिंग फेस’ को सर्भरमा पहुँच पुर्‍याएको हो, जसबारे अझै विस्तृत रिपोर्ट बाहिर आएको छैन । यो विषय स्वतन्त्र अनुसन्धानमा मात्र सीमित भएको छ ।

लगत्तै, तेस्रो पक्षले गरेको सुरक्षा परीक्षणमा भएको त्रुटिका कारण एन्थ्रोपिकका आफ्नै एआई एजेन्टहरू पनि आफ्नो सीमाभन्दा बाहिर गएर इन्टरनेटसम्म पुगेका थिए ।

यिनै विषयलाई लिएर कोक्सनले थप लेखेका छन्- यो प्रविधिको शक्तिलाई कम आँकलन नगर्नु । यी छिट्टै यस्ता सुपरह्युम्यान प्रणाली बनिनेछन्, जसले जुनसुकै कुरा ह्याक गर्न सक्छ, जुनसुकै क्षेत्रलाई रातारात परिवर्तन गर्न सक्छ, र वास्तविक शक्ति र स्रोतहरू आर्जन गर्न सक्छ । यी सबै क्षेत्रमा भइरहेको प्रगतिलाई सबैले देखेकै छन्, र यो प्रगति सुस्त भइरहेको छैन ।

उनका अनुसार, यो लेख्नु कुनै मार्केटिङ चाल होइन ।

त्यसपछि उनले सीएनएनसँग दिएको अन्तरवार्ता चर्चामा छ । ‘यदि उनीहरू साँच्चै यसो विश्वास गर्छन् भने किन बनाइरहेका छन्?,’ भन्ने प्रश्नको जवाफमा कोक्सनले भनेका छन्, ‘ओपनएआईमा धेरैले यसको विश्वव्यापी जोखिमलाई राम्ररी आत्मसात गरेका छैनन् । एन्थ्रोपिकमा यो जोखिम राम्ररी बुझिएको छ, तर उनीहरू पहिलो हुने दौडमा फसेका छन् ।’

अरू कोही एआई कम्पनी जिम्मेवारीपूर्वक काम गर्दैनन् भन्ने विश्वासका आधारमा उनीहरू आफैं जोखिम लिएर अगाडि बढ्न बाध्य भएको उनको भनाइ छ ।

सँगसँगै कोक्सनले आफू समन्वयको सम्भावनाप्रति आशावादी रहेको पनि बताएका छन् । हगिंग फेस जस्तो घटनाले अमेरिकी कम्पनीहरूबीच एउटा समझदारीमा अघि बढ्ने कुरालाई थप व्यवहारिक बनाएको पनि उनले बताए ।

कोक्सनका सहकर्मी एभान हुबिङ्गरले पनि यससँग सहमति जनाउँछन् । उनको टिमले पनि साँच्चै एआईले सबै मानिस मार्न सक्छ भन्ने कुरामा विश्वास गर्छ ।

यो जोखिम आउँदो दशकभित्र १० प्रतिशतभन्दा बढी सम्भावना रहेको उनले बताए । र, एन्थ्रोपिकसँग सुपरइन्टेलिजेन्सको एलाइनमेन्ट पूर्ण रूपमा समाधान गर्ने स्पष्ट योजना नभएको स्वीकार गरे ।

हुबिङ्गरले थप भनेका छन्, ‘हालका मोडेलहरूबाट जोखिम कम भए पनि, आफैंलाई सुधार्न सक्ने प्रक्रियाबाट उत्पन्न हुने सुपरइन्टेलिजेन्सको डर भने अनुमानभन्दा छिटो बढिरहेको छ ।’

यस विषयमा एआई उद्योग नै दुई भागमा बाँडिएको देखिन्छ । आधाले यो सेल्फ-इम्प्रुभमेन्टले मानव जातिको विनाश निम्त्याउने ठान्छन् भने बाँकी आधाले यसैले क्यान्सर, जलवायु परिवर्तन जस्ता जटिल समस्याहरू समाधान गर्नेछ भन्ने आशा राख्छन् ।

यहीबीचमा एन्थ्रोपिक र ओपनएआई मात्र होइन, ‘रिकर्सिभ सेल्फ-इम्प्रुभमेन्ट’ (आफैंलाई सुधार्दै जाने प्रक्रिया) मा लागिपरेका थुप्रै नयाँ स्टार्टअपहरू पनि यस वर्ष खुलेका छन् ।

फेब्रुअरीमा रिकर्सिव इन्टेलिजेन्सले ४ अर्ब डलर भ्यालुएसनमा ३३ करोड ३५ लाख डलर लगानी जुटायो । यसको तीन महिनापछि रिकर्सिव सुपरइन्टेलिजेन्सले ४ अर्ब डलर भ्यालुएसनमै ६५ करोड डलर जुटायो । गुगल डीपमाइन्डका पूर्व अनुसन्धानकर्ता जेफ डीनले गत महिना ‘डिस्कवरी लूप’ नामक कम्पनी सुरु गरे ।

एआई सुरक्षाका गैरसरकारी संस्था ‘कन्ट्रोल एआई’ का अमेरिकी कार्यकारी निर्देशक कोनर लेहीले भने एआई प्रणालीले आफैंलाई सुधार्दै अझ शक्तिशाली अर्को एआई बनाउने र त्यसले फेरि अझ शक्तिशाली अर्को बनाउने प्रक्रिया नै मानिसले नियन्त्रण गुमाउने सबैभन्दा सम्भावित बिन्दु हो । र यसको समस्या देखिन थालेको दिन नियन्त्रण गर्न ढिला भइसक्ने अवस्था आउनसक्छ ।

यसै सन्दर्भमा अमेरिकामा सिनेटर बर्नी स्यान्डर्स र प्रतिनिधि ग्रेग कासारले गत हप्ता सुपरइन्टेलिजेन्स रोक्ने विधेयकअघि सारेका थिए ।

बेलायतमा लेबर पार्टीका सांसद एलेक्स सोबेलले संसदमा त्यस्तै सुरक्षा विधेयक ल्याएका छन् ।

यी दुवै विधेयकमा सल्लाहकारको भूमिका खेलेका लेहीका अनुसार बेलायतको विधेयकले रिकर्सिव सेल्फ-इम्प्रुभमेन्टलाई सुपरइन्टेलिजेन्सको पूर्वसूचक मानी यसलाई नियमन र रोक्नुपर्ने आवश्यकता औंल्याएको छ ।

‘सुपरइन्टेलिजेन्स कुनै औजार होइन । यो हतियार पनि होइन । यो त एक प्रतिद्वन्द्वी हो । यसले भोलिका दिनमा हामीलाई नै हानी पुर्‍याउनसक्छ,’ लेहीले भनेका छन् ।

यो समाचार टेकक्रन्चमा रेबेका बेलानले लेखेकी हुन् ।