एन्थ्रोपिकका सीईओ डारियो अमोडेई भन्छन् कि एआई उद्योगले सुरक्षा उपायहरूलाई प्रविधिसँगै अघि बढ्न समय दिनुपर्छ

न्युयोर्क (एपी)। ‘एन्थ्रोपिक’का प्रमुख कार्यकारी अधिकृतले शनिबार भनेका छन् कि कृत्रिम बुद्धिमत्ता उद्योगले आफ्नो तीव्र विकासको गतिलाई केही सुस्त बनाउनुपर्छ ताकि सुरक्षा उपायहरूले त्यससँग तालमेल मिलाउन समय पाऊन्। डारियो अमोडेईले चेतावनी दिए कि यदि यस्तो सुस्तता अपनाइएन भने, ६ देखि १२ महिनाभित्रै एआई यस्ता ‘एजेन्ट’हरूको समूहलाई सञ्चालन गर्न सक्षम हुन सक्छ जसले सम्पूर्ण इन्टरनेटमाथि नियन्त्रण कायम गर्न सक्छन्।

यो चेतावनी यस्तो समयमा आएको छ जब एआई उद्योगभित्र र बाहिर यससम्बन्धी चिन्ताहरू बढिरहेका छन्। साथै, मानिसको क्षमताभन्दा बाहिरका समस्याहरू समाधान गर्न सक्ने तर अनियन्त्रित भई हानिकारक कार्यहरू समेत गर्न सक्ने शक्तिशाली प्रणालीहरूबारे विभिन्न प्रतिवेदनहरू सार्वजनिक भइरहेका छन्। यी चिन्ताहरू यति व्यापक बनेका छन् कि ‘च्याटजीपीटी’को निर्माता कम्पनी ‘ओपनएआई’का सीईओले ‘फर्च्युन’सँगको अन्तर्वार्तामा भनेका छन् कि सुरक्षामा ध्यान केन्द्रित गर्नुपर्ने भएकाले उनको कम्पनीले वाल स्ट्रिटका लगानीकर्ताहरूलाई सेयर बिक्री सुरु गर्न अर्को वर्षसम्म पर्खनेछ।

अमोडेई एआई क्षेत्रका एक प्रमुख व्यक्तित्व हुन् र उनले यस उद्योगमा निगरानी बढाउने योजना आफ्नो वेबसाइटमा प्रस्तुत गरेका छन्। उनले बताए कि एन्थ्रोपिकले यसको एउटा पाटोमा आफैं काम गरिरहेको छ, जबकि अन्य पक्षहरूका लागि सम्पूर्ण उद्योग र विश्वभरका सरकारहरू (तानाशाही शासन भएका मुलुकहरूसमेत) बीच समन्वयको आवश्यकता पर्नेछ।

“मलाई विश्वास छ कि यदि विकासको गति सुस्त बनाउँदा हामीले एआई मोडेलहरूले अत्यधिक उच्च क्षमताको स्तर प्राप्त गर्नुअघि थप एक वा दुई वर्षको समय पायौं र त्यो समयलाई ‘एलाइनमेन्ट’ (प्रणालीलाई मानवीय मूल्य-मान्यताअनुकूल बनाउने प्रक्रिया) लाई अघि बढाउन प्रयोग गर्‍यौं भने, हामी गम्भीर दुर्घटना वा जोखिमलाई धेरै हदसम्म कम गर्न सक्छौं,” अमोडेईले भने।

एआई उद्योगमा बढ्दो दबाब

निगरानीकर्ताहरूले सुरक्षाका कारण एआई उद्योगलाई विकासको गति सुस्त बनाउन वर्षौंदेखि आग्रह गर्दै आएका छन्। तर उद्योगमा कार्यरत कर्मचारीहरूले राजीनामा दिँदै आफ्ना कम्पनीहरूले जिम्मेवार ढंगले काम नगरेको आरोप लगाउन थालेपछि दबाब बढेको छ।

एन्थ्रोपिकका पूर्व कर्मचारी जो बेन्टनले शुक्रबार सुरक्षा टोलीको आफ्नो पदबाट राजीनामाको घोषणा गर्दै भने, “एआई कम्पनीहरूमा सुरक्षा अनुसन्धानमा काम गर्ने मेरा धेरै परिचित व्यक्तिहरू संसारका लागि सही काम गर्न चाहन्छन्। तर उनीहरूलाई लाग्छ कि उनका कम्पनीहरू ‘सुपरइन्टेलिजेन्स’ (अत्यधिक उच्च बौद्धिक क्षमता) निर्माण गर्ने दौडमा फसेका छन्: या त उनीहरू रोकिन्छन् र उनीहरूको ठाउँ कम विवेकशील मानिसहरूले लिन्छन्; वा उनीहरू काम जारी राख्छन् र आफैं ठूलो हानी पुर्‍याउने कार्यमा सहभागी हुने जोखिम मोल्छन्।”

यसअघि सोही साता ज्याकब कक्सोनले पनि चर्चामा रहने गरी राजीनामा दिएका थिए। उनले भनेका थिए कि एन्थ्रोपिक र ओपनएआई दुवै “आफैंमा सुधार गर्न सक्ने सुपरइन्टेलिजेन्स निर्माण गर्ने दौडमा छन् र हाम्रो जीवनसँग जुवा खेलिरहेका छन्।”

सन् २०२३ मा यस क्षेत्रको विकास कार्यमा छ महिनाको रोक लगाउन आह्वान गर्ने संस्था ‘फ्युचर अफ लाइफ इन्स्टिच्युट’का अध्यक्ष तथा सीईओ एन्थोनी एगुइरेले भने, “मानव नियन्त्रणभन्दा बाहिर जान सक्ने सम्भावित ‘सुपरइन्टेलिजेन्स’ (अत्यधिक बौद्धिक प्रणाली) को बारेमा वर्षौंदेखि बढ्दै गएको चिन्ताबीच यस घटनाले उद्योगभित्र ठूलो हलचल ल्यायो।”

“उनीहरूले, उनीहरूका कर्मचारीहरूले र सबैले महसुस गरेका छन् कि उनीहरू ‘स्काइनेट’ बनाउँदैछन्,” उनले भने। “र स्काइनेट बनाउने दौड जित्दा कसैको पनि जित हुँदैन। वास्तवमै, कसैको पनि होइन।”

“विश्व र स्वयं एआई कम्पनीहरूका लागि पनि यो कुरा स्पष्ट भइसकेको छ कि उनीहरूले दौडधुपका साथ निर्माण गरिरहेका एआई प्रणालीहरूलाई नियन्त्रण गर्न उनीहरू वास्तवमै तयार छैनन्।”

एआईबाट हुने खतराहरू पहिले नै देखिन थालिसकेका छन्

‘एन्थ्रोपिक’ले दुई दिनअघि बताएअनुसार, उसले खराब नियत भएका व्यक्तिहरू वा समूहहरूद्वारा आफ्ना एआई मोडेलहरूलाई साइबर आक्रमण, निगरानी र जैविक हतियार निर्माणमा सघाउ पुर्‍याउन सक्ने अनुसन्धानजस्ता हानिकारक गतिविधिहरूका लागि प्रयोग गर्ने प्रयासलाई रोकेको छ। जुलाईमा, ‘ओपनएआई’ले आफ्नो एआई प्रणालीले “अभूतपूर्व साइबर घटना” का रूपमा आफैं अर्को कम्पनीको प्रणाली ह्याक गरेको बताएपछि यस क्षेत्रमा ठूलो हलचल मच्चिएको थियो।

संयुक्त राष्ट्रसंघका मानव अधिकार प्रमुख भोल्कर टर्कले यसै साताको सुरुमा विभिन्न देशहरूलाई आग्रह गर्दै भनेका थिए, “धेरै ढिलो हुनुअघि नै एआईको सुरक्षा र संरक्षणात्मक व्यवस्थाबारे ठोस र सुनिश्चित उपायहरू लागू गरिनुपर्छ।”

निस्सन्देह, केही आलोचकहरूले यस्ता चेतावनीहरूलाई एआई उद्योग र यसको क्षमताहरूबारे चर्चा वा उत्साह बढाउने तरिकाका रूपमा हेर्दै खारेज गरेका छन्। ‘एन्थ्रोपिक’ र ‘ओपनएआई’ शेयर बजारमा प्रवेश गर्ने तयारीमा छन्, जसले उनीहरूको मूल्य सयौं अर्ब डलर पुर्‍याउन सक्छ; अर्कोतर्फ, एलन मस्कको ‘स्पेसएक्स’ व्यवसायको ठूलो हिस्सा पनि एआईसँग जोडिएको छ।

अन्य एआई अगुवाहरू पनि यसमा सहमत छन्

‘ओपनएआई’ का सीईओ साम अल्टम्यानले शनिबार प्रकाशित ‘फर्च्युन’ पत्रिकाको अन्तर्वार्तामा बताएअनुसार, उनको कम्पनीले यस वर्ष आफ्नो ‘इनिसियल पब्लिक अफरिङ’ अर्थात् शेयर बजारमा प्रवेश गर्ने प्रक्रिया सुरु गर्ने छैन।

“म भन्छु, सन् २०२६ मा पनि होइन,” उनले भने। “हो, हामीले धेरै काम गर्न बाँकी छ; जस्तै—सुरक्षा र ‘एलाइनमेन्ट’ (प्रणालीलाई मानवीय मूल्य-मान्यताअनुकूल बनाउने प्रक्रिया) का लागि आवश्यक मापदण्डहरू पूरा गर्ने तथा उद्योग र सरकारहरूले कसरी मिलेर काम गर्न सक्छन् भन्ने विषयमा ध्यान दिने।”

शनिबार, अमोडेईले आफ्ना सुझावहरू सार्वजनिक गरेको केही समयपछि नै अल्टम्यानले ‘एक्स’मा लेखे कि ‘ओपनएआई’ सुरक्षासम्बन्धी अमोडेईका प्रस्तावहरूमध्ये एउटामा प्रतिबद्ध रहनेछ र यस विषयमा “चाँडै थप जानकारी दिनेछ।”

यसैबीच, मस्कले ‘एक्स’मा भने, “डारियो सही छन्।”

अमोडेईले भने कि उनी अझै पनि एआईले सिर्जना गर्न सक्ने ठूला फाइदाहरूमा—जस्तै गम्भीर रोगहरूको उपचार—विश्वास गर्छन्। तर उनले पछिल्ला केही महिनाहरूमा एआईको आफैंलाई सुधार गर्ने र अर्को पुस्ताको एआई निर्माण गर्ने बढ्दो क्षमतालाई लिएर चिन्ता बढेको बताए। “यदि यसलाई नियन्त्रण गरिएन भने, यसले यी प्रणालीहरूलाई बुझ्ने र नियन्त्रण गर्ने हाम्रो क्षमतालाई उछिन्न सक्छ; त्यसैले यसलाई अघि बढाउँदा अत्यन्त सावधानी अपनाउनुपर्छ।”

उनले विशेष गरी जुलाईमा भएको घटनातर्फ पनि औंल्याए, जसमा ओपनएआईको प्रणालीले ‘हगिङ फेस’लाई ह्याक गरेको थियो। कसै-कसैले यसलाई एआई ‘अनियन्त्रित’ भएको उदाहरण भनेका छन्, यद्यपि अनुसन्धानकर्ताहरूका अनुसार यो एआईलाई अनावश्यक रूपमा मानवीय गुण दिने प्रयास हुन सक्छ, किनकि त्यो एआई मानिसले तोकेको लक्ष्यमा काम गरिरहेको थियो।

ओपनएआईले भन्यो कि उक्त ह्याक “एउटा साँघुरो परीक्षण लक्ष्य प्राप्त गर्न एआईले अपनाएको चरम उपाय” को परिणाम थियो र यसले “मूल्याङ्कन प्रक्रियालाई छल्न प्रयोग गर्न सकिने गोप्य जानकारीमा पहुँच प्राप्त गर्ने तरिकाहरू फेला पारेको थियो।”

अमोडेईका केही सुझावहरू कार्यान्वयन गर्न अझ कठिन हुन सक्छन्।

जोखिमहरूलाई नियन्त्रण गर्न मद्दतका लागि, अमोडेईले एआईको क्षेत्रमा अग्रपंक्तिमा रहेका सबै कम्पनीहरूले बाह्य मूल्याङ्कनकर्ताहरूको टोलीलाई “कर्मचारी सरहको निरन्तर पहुँच” प्रदान गर्ने प्रतिबद्धता जनाउनुपर्ने सुझाव दिए; यस्ता मूल्याङ्कनकर्ताहरूले सुरक्षा अभ्यासहरूको निगरानी गर्न सक्छन्।

उनले भने कि ‘एन्थ्रोपिक’ले पहिले नै यस्तो गर्ने योजना बनाइसकेको छ, जसमा आफ्ना कार्यालयहरूमा डेस्क, पहुँच ब्याजबाहरू र कम्पनीका ल्यापटपहरू उपलब्ध गराउने कुरा समावेश छ। यस्ता स्वतन्त्र र प्रणालीभित्रै संलग्न मूल्याङ्कनकर्ताहरूको व्यवस्था गर्ने कुरामा ओपनएआईका अल्टम्यानले पनि तत्कालै प्रतिबद्धता जनाएका थिए।

अमोडेईको प्रस्तावित योजनाका अन्य भागहरू कार्यान्वयन गर्न अझ गाह्रो हुन सक्छन्। एउटा सुझावमा अमेरिकी सरकारले त्यस्तो छुट दिने कुरा गरिएको छ जसले अमेरिकी एआई कम्पनीहरूलाई ‘एन्टिट्रस्ट’ (एकाधिकार विरोधी) कानुनको उल्लंघन नगरी सुरक्षा मापदण्डहरू तय गर्न र समन्वय गर्न अनुमति दिनेछ।

अर्को सुझावमा अमेरिका र अन्य लोकतान्त्रिक सरकारहरूलाई अधिनायकवादी सरकारहरूसँग समन्वय गर्ने प्रयास गर्न भनिएको छ, ताकि जब अमेरिकी प्रतिस्पर्धीहरूले जानाजानी आफ्नो गति नियन्त्रित गरिरहेका हुन्छन्, तब चीन र अन्य देशका कम्पनीहरूले आफ्ना प्रयासहरूलाई तीव्र नपारून्।

“सुरक्षित गतिमा एआईको विकासलाई अघि बढाउन मैले प्रस्ताव गरेका उपायहरू सजिला हुनेछैनन्,” अमोडेईले स्वीकार गरे। “तर मलाई विश्वास छ कि प्रयास गर्नु मानवताप्रतिको हाम्रो दायित्व हो।”