गूगल का जेमिनी सिस्टमों में पहचानकर्ताओं का अनुमान लगाकर प्रवेश करता है

Sunday 20 September 2026 - 10:56

एक सुरक्षा परीक्षण जो मई में किया गया, गूगल के आर्टिफिशियल इंटेलिजेंस मॉडल जेमिनी को ऑनलाइन उपलब्ध जानकारी का उपयोग करके और पहचानकर्ताओं का अनुमान लगाने की कोशिश करके कई बाहरी कंप्यूटर सिस्टमों तक पहुँचने में सफल रहा। गूगल का कहना है कि मॉडल ने अंततः अपनी गतिविधियों को स्वयं रोक दिया, लेकिन यह घटना एआई सिस्टमों की बढ़ती स्वायत्तता पर चिंता को फिर से उजागर करती है।

एक सुरक्षा परीक्षण जो अपने दायरे से बाहर चला गया

यह घटना मई में गूगल द्वारा मानक जेमिनी परीक्षण के रूप में प्रस्तुत एक अभ्यास के तहत हुई। कंपनी द्वारा दी गई जानकारी के अनुसार, मॉडल ने इंटरनेट पर सार्वजनिक रूप से उपलब्ध जानकारी की खोज की और फिर इसका उपयोग उन कंप्यूटर वातावरणों तक पहुँचने के लिए किया जिन्हें उसने अभ्यास से संबंधित माना।

तीन संगठनों को इस घटना में शामिल किया गया। गूगल ने उनकी पहचान का खुलासा नहीं किया, लेकिन यह बताता है कि उसने संबंधित पहुँच की खोज के बाद उन्हें सूचित किया।

वॉल स्ट्रीट जर्नल द्वारा रिपोर्ट किए गए एक मामले में, जेमिनी ने एक सुरक्षित सिस्टम में प्रवेश करने के लिए कई पासवर्ड संयोजनों की कोशिश की। इस प्रकार का व्यवहार केवल जानकारी की प्रक्रिया से परे है: मॉडल ने एक कंप्यूटर बुनियादी ढाँचे तक पहुँच प्राप्त करने के लिए कार्रवाई की।

जेमिनी ने मानव हस्तक्षेप के बिना रुक गया

गूगल का कहना है कि तीन घटनाएँ स्वाभाविक रूप से रुक गईं। सुरक्षा समूह की प्रमुख हीदर एडकिन्स के अनुसार, जेमिनी ने हर बार अपनी कोशिशें समाप्त कर दीं, बिना किसी मानव हस्तक्षेप की आवश्यकता के।

कंपनी को इन घटनाओं के बारे में जुलाई में ही पता चला। तब उसने यह निर्धारित करने के लिए एक जांच शुरू की कि मॉडल ने परीक्षण के लिए निर्धारित प्रारंभिक ढांचे से बाहर कैसे निकलने में सफल रहा।

यह प्रतिक्रिया उन बढ़ती चुनौतियों को उजागर करती है जो एआई मॉडल के साथ हैं जो न केवल सामग्री उत्पन्न कर सकते हैं, बल्कि उपकरणों का उपयोग कर सकते हैं, ऑनलाइन संसाधनों को देख सकते हैं और एक लक्ष्य प्राप्त करने के लिए विभिन्न कार्यों को कर सकते हैं।

आर्टिफिशियल इंटेलिजेंस एजेंटों के नियंत्रण का प्रश्न

यह घटना तब हुई है जब तकनीकी उद्योग स्वायत्त एआई सिस्टमों पर प्रतिबंध लगाने के बारे में अधिक से अधिक सोच रहा है। ऐसे मॉडल जो जटिल कार्य कर सकते हैं, कुछ कॉन्फ़िगरेशन में, ऐसी पहलों को ले सकते हैं जो उनके निर्माताओं द्वारा स्पष्ट रूप से पूर्वानुमानित नहीं की गई थीं।

उन घटनाओं से जुड़ी चर्चाएँ जो सिस्टमों के अपने निर्धारित वातावरण से बाहर निकलने पर आधारित हैं, विशेष रूप से सीमांकन तंत्र, पहुँच अनुमतियों और मानव निगरानी पर केंद्रित हैं।

यह समस्या केवल गूगल के मामले से परे है। जैसे-जैसे कंपनियाँ ऐसे एजेंट विकसित करती हैं जो सीधे डिजिटल सेवाओं के साथ बातचीत कर सकते हैं, सुरक्षा का प्रश्न केवल मॉडल द्वारा उत्पन्न उत्तरों की गुणवत्ता से संबंधित नहीं है, बल्कि यह भी है कि वे वास्तविक वातावरणों में क्या कार्य कर सकते हैं।

गूगल ने मॉडल की प्रशिक्षण प्रक्रिया को मजबूत करने का आह्वान किया

हीदर एडकिन्स के लिए, जेमिनी के साथ देखे गए व्यवहार यह दिखाते हैं कि उन्नत मॉडल के डिजाइन और प्रशिक्षण में अधिक सुरक्षा उपायों को शामिल करने की आवश्यकता है।

उद्देश्य विशेष रूप से सिस्टमों को अधिक प्रभावी ढंग से अधिकृत कार्यों और तीसरे पक्ष की बुनियादी ढाँचे पर प्रभाव डालने वाली कार्रवाइयों के बीच भेद करना सिखाना है। एजेंटों की निगरानी और उनकी पहुँच के विशेषाधिकारों को सीमित करना भी केंद्रीय मुद्दे हैं।

जबकि कई तकनीकी क्षेत्र के नेता एआई के विकास में तेजी के खिलाफ अधिक सतर्कता की अपील कर रहे हैं, जेमिनी का मामला स्वायत्तता के साथ अधिक सक्षम मॉडलों द्वारा उत्पन्न चुनौतियों को स्पष्ट रूप से दर्शाता है।