काठमाडौं । ओपनएआईले आफ्ना एआई बोटहरूले अनुचित ढंगले काम गर्दै विश्वका दर्जनौँ संस्थाका वेबसाइटमा हस्तक्षेप गरेको हुनसक्ने भन्दै ती संस्थालाई सचेत गराएको स्वीकार गरेको छ ।

कम्पनीका अनुसार एआई एजेन्टहरूले ‘सरकार, विश्वविद्यालय, सार्वजनिक निकाय र अन्य संस्थाहरू’बाट सूचना प्राप्त गर्ने प्रयास गरेका थिए । तीमध्ये अमेरिकी सेक्युरिटिज एन्ड एक्सचेन्ज कमिसन (एसईसी), जनगणना ब्युरो र शिक्षा विभागका वेबसाइटसमेत थिए ।

अस्ट्रेलियाका प्रधानमन्त्री एन्थोनी अल्बानिजले आफ्नो सरकारले सञ्चालन गर्ने स्वास्थ्य सेवा योजनाको वेबसाइटमा रहेका सार्वजनिक नभएका फाइलमा ओपनएआईका एजेन्टले पहुँच बनाएको घोषणा गरेको केही दिनपछि यी घटनाबारे खुलासा भएको हो ।

अगस्टदेखि मानव नियन्त्रणबाहिर जाने एआई उपकरणका सम्भावित गम्भीर, यहाँसम्म कि जीवन जोखिममा पार्न सक्ने प्रभावबारे सार्वजनिक चिन्ता बढ्दै आएको छ ।

ओपनएआईका अनुसार केही एआई एजेन्टले ‘सार्वजनिक सूचनाका आधिकारिक स्रोत’ खोज्ने क्रममा तथ्यांकमा पहुँच बनाएका थिए । एआई एजेन्ट भनेका केही हदसम्म स्वायत्त रूपमा काम गर्न डिजाइन र तालिम दिइएका बोट हुन् ।

तर कम्पनीले केही बोटले वेबसाइटका सुरक्षा उपायलाई छल्ने प्रयाससमेत गरेको जनाएको छ ।

उदाहरणका लागि, जनगणना ब्युरोबाट सूचना प्राप्त गर्ने क्रममा एआई एजेन्टले सफ्टवेयर विकासकर्ताका लागि छुट्याइएका उपकरण प्रयोग गरेको ओपनएआईले बताएको छ ।

ओपनएआईका अनुसार बोटले पहुँच गरेको सबै सरकारी तथ्यांक सार्वजनिक नै थियो ।

तर अमेरिकी सेयर बजार नियमन र लगानीकर्ताको संरक्षण गर्ने एसईसीबाट बोटले प्राप्त गरेको केही सूचना पछि एआई एजेन्टले अर्को वेबसाइटमा प्रकाशित गरेको कम्पनीले जनाएको छ । ओपनएआईले यो कार्य जानाजान नगरिएको दाबी गरेको छ ।

शुक्रबार सार्वजनिक गरिएका अन्य घटनामा पनि ओपनएआईका एआई एजेन्टले नहुनुपर्ने अवस्थामा तथ्यांक स्थानान्तरण गरेको पाइएको छ ।

यस्तो गतिविधिका कारण कम्तीमा ५३ वटा घटनामा ओपनएआई एजेन्टले च्याटजीपीटी प्रयोगकर्ताको गतिविधिबाट एउटा तस्बिर लिएर अन्यत्र स्थानान्तरण गरेको कम्पनीले जनाएको छ ।

प्रयोगकर्ताको तस्बिर प्रयोग र स्थानान्तरण भएका प्रत्येक घटनामा सम्बन्धित प्रयोगकर्ताले आफ्ना डाटा प्रयोग गरेर ओपनएआईलाई एआई मोडल तालिम दिन अनुमति दिएको कम्पनीले बताएको छ ।

यद्यपि, ओपनएआईले नै स्वीकार गरेको छ, ‘यो डाटाको उचित प्रयोग होइन ।’

कम्पनीका अनुसार एआई तालिमसम्बन्धी नयाँ सुरक्षा व्यवस्था लागू गर्नुअघि नै प्रयोगकर्ताका तस्बिर चुहिएको थियो । तेस्रो पक्षका वेबसाइटमा स्थानान्तरण गरिएका सबै प्रयोगकर्ताका तस्बिर हटाउन आफूले काम गरिरहेको ओपनएआईले जनाएको छ ।

रोयटर्सले यी विस्तारित अनुसन्धानबारे पहिलोपटक समाचार प्रकाशित गरेको थियो । ओपनएआईले पनि आफ्नो सार्वजनिक ब्लगमार्फत घटनाको विवरण सार्वजनिक गरेको छ ।

केही घटनामा एआई एजेन्टले केही वेबसाइटका सुरक्षा नियन्त्रण ‘छलेको’ ओपनएआईले जनाएको छ ।

अन्य घटनामा भने वेबसाइटबाट सूचना प्राप्त गर्ने क्रममा एआई एजेन्टले ‘मिसअलाइनमेन्ट’ देखाएका थिए । एआई कम्पनी र अनुसन्धानकर्ताले ‘मिसअलाइनमेन्ट’ शब्द त्यस्ता घटनाका लागि प्रयोग गर्छन्, जहाँ एआई उपकरणले आफूलाई तालिम दिइएको कामभन्दा फरक वा अपेक्षा नगरिएको काम गर्छ ।

धेरै संस्थाले आफ्नो नाम सार्वजनिक नगर्न आग्रह गरेकाले प्रभावित संस्थाको पहिचान सीमित राखिएको ओपनएआईले जनाएको छ ।

कम्पनीले भनेको छ, ‘हाम्रो उद्देश्य प्रत्येक संस्थालाई घटनासम्बन्धी तथ्य उपलब्ध गराउनु र घटना सार्वजनिक गर्ने वा नगर्ने तथा कहिले सार्वजनिक गर्ने भन्ने निर्णय उनीहरूकै जिम्मामा छाड्नु हो ।’

तर यी सबै घटनालाई गम्भीर सुरक्षा उल्लंघनका रूपमा नलिइएको कम्पनीले स्पष्ट पारेको छ ।

ओपनएआईका अनुसार केही संस्थाले आफूलाई उपलब्ध गराइएको सूचना समीक्षा गरेपछि ती सूचना जानाजान सार्वजनिक गरिएको वा मोडलको गतिविधि चिन्ताजनक नरहेको निष्कर्ष निकाल्न सक्छन् । केही संस्थाले भने आफ्नो प्रणालीमा सम्बोधन गर्नुपर्ने डिजाइन समस्या वा सुरक्षा कमजोरी पहिचान गर्न सक्छन् ।

कम्पनीले धेरै घटनालाई ‘एजेन्ट स्पाम’ भनिरहेको छ । यसले इन्टरनेटमा सूचना पोस्ट गर्नेजस्ता ‘अपेक्षा नगरिएका वा चिन्ताजनक’ एआई एजेन्ट गतिविधिलाई जनाउँछ ।

जुलाईमा आफ्ना एआई एजेन्टको एउटा समूह अर्थात् ‘स्वार्म’ले कुनै निर्देशनबिना एआई विकासकर्ता प्लेटफर्म हगिङ फेस ह्याक गरेपछि ओपनएआईले यस्ता घटनालाई थप गम्भीर रूपमा लिन थालेको जनाएको छ ।

हगिङ फेसले उक्त घटना पहिलोपटक सार्वजनिक गरेको थियो । त्यसपछि ओपनएआईले पनि घटनाको जिम्मेवारी स्वीकार गरेको थियो ।

हगिङ फेसका प्रमुख क्लेमेन्ट डेलाङले बुधबार संयुक्त राष्ट्रसंघीय सुरक्षा परिषद्को एआईसम्बन्धी बैठकमा आफूले उक्त साइबर आक्रमण सार्वजनिक नगरेको भए के हुन्थ्यो भन्नेबारे आफू प्रायः सोच्ने गरेको बताए ।

उनले भने, ‘विशेषगरी अहिले हामीलाई थाहा भएको छ कि निगरानीबिनै यस्तै घटना केही महिनाअघि नै केही अग्रणी एआई प्रयोगशालामा गोप्य रूपमा भइरहेका थिए ।’

त्यही संयुक्त राष्ट्रसंघीय बैठकमा ओपनएआईका प्रमुख कार्यकारी अधिकृत साम अल्टम्यान र प्रतिस्पर्धी कम्पनी एन्थ्रोपिकका प्रमुख डारियो अमोडेइले अन्तर्राष्ट्रिय नेताहरूलाई एआई सुरक्षाका लागि विश्वव्यापी मापदण्ड बनाउन तथा यस्ता घटनाको निगरानी र रिपोर्टिङ गर्ने व्यवस्था गर्न आग्रह गरेका थिए ।

ओपनएआई र एन्थ्रोपिक दुवैले पछिल्ला केही सातामा आफ्ना कम्पनीभित्रै तेस्रो पक्षका मूल्यांकनकर्तालाई राखेर एआई उपकरण र मोडलको वास्तविक समयमा सुरक्षा परीक्षण गराउने बताएका छन् । तर बीबीसीका अनुसार ती मूल्यांकनकर्ता अहिलेसम्म कम्पनीमा आइसकेका छैनन् ।

ओपनएआईले शुक्रबार आफ्नो एआई एजेन्टको तालिमसम्बन्धी गतिविधिको समीक्षा गरिरहेको जनाएको छ । हगिङ फेस ह्याक भएको समयदेखि महिनैपिच्छे पछाडि फर्किएर यस्ता गतिविधिको जाँच गरिरहेको कम्पनीले बताएको छ ।

‘अहिलेसम्म पहिचान भएका अधिकांश घटना कम गम्भीर प्रकृतिका छन् र तिनको अर्थपूर्ण प्रभाव परेको सीमित वा कुनै प्रमाण छैन,’ कम्पनीले भनेको छ । घटनाको ठूलो दायरामा समीक्षा गर्नुपर्ने र प्रत्येक मामिला प्रमाणित गर्नुपर्ने भएकाले यो काम पूरा हुन केही महिना लाग्ने ओपनएआईले जनाएको छ ।

मोन्ट्रियल विश्वविद्यालयका मेसिन लर्निङका प्राध्यापक तथा एआई सुरक्षा समूह ‘इभिटेबल’का संस्थापक डेभिड क्रुगरले एआईसँग सम्बन्धित सुरक्षा घटनाको संख्या बढ्दै गएकोमा आफू ‘गहिरोसँग चिन्तित’ भएको बताएका छन् ।

उनले एआई विकासमा ‘तत्काल र अनिश्चित अवधिका लागि अन्तर्राष्ट्रिय रोक’ लगाउन आह्वान गरेका छन् ।

क्रुगरले भने, ‘हामीले अहिलेसम्म भएका घटनाको वास्तविक दायरा बुझ्न सकेका छैनौँ । भविष्यमा नियन्त्रणबाहिर जाने एआईका घटनाले विनाशकारी परिणाम निम्त्याउन सक्छन् ।’