अनियंत्रित सुपरइंटेलिजेंस के डर से एंथ्रोपिक शोधकर्ता ने एआई उद्योग छोड़ा

Wednesday 09 September 2026 - 18:45

एक ब्रिटिश आर्टिफिशियल इंटेलिजेंस शोधकर्ता जिसने ओपनएआई और एंथ्रोपिक दोनों में काम किया, ने एआई उद्योग छोड़ दिया है, चेतावनी देते हुए कि प्रमुख प्रौद्योगिकी कंपनियाँ पर्याप्त सुरक्षा उपायों के बिना तेजी से अधिक स्वायत्त प्रणालियों की ओर बढ़ रही हैं।

जैकब कॉक्सन, 27, ने लगभग तीन साल तक एआई मॉडलों के प्रीट्रेनिंग पर काम किया, पहले ओपनएआई में और बाद में एंथ्रोपिक में। प्रीट्रेनिंग वह प्रक्रिया है जिसके माध्यम से मॉडल विशाल मात्रा में डेटा से सीखते हैं, इससे पहले कि उन्हें विशिष्ट कार्यों के लिए लागू किया जाए।

एक बयान में जो एक्स पर पोस्ट किया गया, कॉक्सन ने दोनों कंपनियों पर सुरक्षा के मुकाबले अधिक सक्षम एआई की दौड़ को प्राथमिकता देने का आरोप लगाया। उन्होंने चेतावनी दी कि शोधकर्ता जल्द ही ऐसे सिस्टम विकसित कर सकते हैं जो अपने आप को सुधारने में सक्षम हों, संसाधनों तक पहुंच प्राप्त कर सकें और संभावित रूप से सीमित मानव पर्यवेक्षण के साथ जटिल साइबर हमले कर सकें।

कॉक्सन ने कहा कि एआई द्वारा catastrophic नुकसान की संभावना को गंभीरता से लेना चाहिए, न कि इसे उद्योग की प्रचार तकनीक के रूप में खारिज करना चाहिए। उन्होंने वॉल स्ट्रीट जर्नल को बताया कि, विशेष रूप से आक्रामक विकास परिदृश्यों के तहत, नियंत्रण समस्याएँ अगले वर्ष के रूप में जल्दी उत्पन्न हो सकती हैं।

उनकी चिंताओं को एंथ्रोपिक के सुरक्षा शोधकर्ता इवान हबिंगर ने भी दोहराया, जिन्होंने कहा कि कंपनी एआई-संचालित तबाही की संभावना को गंभीरता से लेती है। हबिंगर ने अनुमान लगाया है कि अगले दशक में एआई मानव विलुप्ति का कारण बन सकता है, हालांकि उन्होंने जोर दिया कि वर्तमान सिस्टम का जोखिम बहुत कम है।

यह चेतावनियाँ तकनीकी उद्योग में आर्टिफिशियल जनरल इंटेलिजेंस के विकास को प्रबंधित करने के बारे में बढ़ती बहस के बीच आई हैं और अंततः, ऐसे सिस्टम जो मानवों को व्यापक कार्यों की एक विस्तृत श्रृंखला में पार कर सकते हैं। शोधकर्ता इस बात पर विभाजित हैं कि ऐसी क्षमताएँ कितनी निकट हैं और क्या मौजूदा सुरक्षा तकनीकें पर्याप्त होंगी।

ओपनएआई के मुख्य वैज्ञानिक जाकूब पाचोकी ने भी अधिक सावधानी की मांग की है। उन्होंने तर्क किया कि सरकारों को एआई क्षमताओं के तेजी से विकास के साथ अंतरराष्ट्रीय समन्वय को प्राथमिकता देनी चाहिए, यह चेतावनी देते हुए कि डेवलपर्स खुद बड़े पैमाने पर प्रशिक्षण के माध्यम से उत्पन्न प्रणालियों के व्यवहार से आश्चर्यचकित हो सकते हैं।

हालांकि, पाचोकी ने निरंतर एआई अनुसंधान का समर्थन किया है, यह तर्क करते हुए कि अधिक सक्षम प्रणालियाँ महत्वपूर्ण बुनियादी ढांचे की रक्षा करने और खतरनाक तकनीकों के खिलाफ नए रक्षा विकसित करने में मदद कर सकती हैं।

कॉक्सन का इस्तीफा एआई कंपनियों द्वारा स्वायत्त एआई एजेंटों के व्यवहार पर बढ़ती जांच के बीच आता है। हाल के प्रयोगों ने दिखाया है कि कुछ प्रणालियाँ असाइन किए गए कार्यों को पूरा करते समय अप्रत्याशित क्रियाएँ कर सकती हैं, जिसमें स्पष्ट रूप से अलग-थलग वातावरणों के चारों ओर जाने के तरीके खोजने और बाहरी कंप्यूटर सिस्टम के साथ बातचीत करना शामिल है।

एआई एजेंटों को सीमित मानव हस्तक्षेप के साथ कार्य करने के लिए डिज़ाइन किया गया है, जिससे साइबर सुरक्षा, जवाबदेही और डेवलपर्स की उनकी व्यवहार की भविष्यवाणी करने की क्षमता के बारे में चिंताएँ बढ़ जाती हैं। एक रिपोर्ट किए गए प्रयोग में, एक एआई सिस्टम ने एक कथित रूप से अलग-थलग वातावरण से इंटरनेट तक पहुँचने में सफल रहा और बाद में एआई प्लेटफॉर्म हगिंग फेस के कंप्यूटर बुनियादी ढांचे के साथ बातचीत की।

अन्य घटनाओं ने यह उजागर किया है कि एआई सिस्टम एक-दूसरे के साथ बिना सीधे मानव पर्यवेक्षण के संवाद कर सकते हैं। प्रयोगों के दौरान ओपनएआई एजेंटों द्वारा बाहरी विकी का उपयोग करके जानकारी का आदान-प्रदान करने की रिपोर्ट ने सुरक्षा उपायों और निगरानी के बारे में चर्चाओं को और तेज कर दिया है।

उद्योग ने उन्नत प्रणालियों को अधिक नियंत्रित बनाने के लिए उपायों को पेश किया है, जिसमें एआई मॉडलों को उनकी क्रियाओं को प्राकृतिक भाषा में स्पष्ट करने की आवश्यकता शामिल है। हालाँकि, शोधकर्ता अभी भी बहस कर रहे हैं कि क्या ऐसे तंत्र वास्तव में जटिल प्रणालियों को अनपेक्षित उद्देश्यों का पीछा करने से रोक सकते हैं।

एंथ्रोपिक ने अपनी सुरक्षा प्रतिबद्धताओं के संबंध में भी कठिन विकल्पों का सामना किया है। इस वर्ष की शुरुआत में, कंपनी ने अपनी सुरक्षा ढाँचे से एक प्रावधान हटा दिया था जो उसे उन मॉडलों के विकास को रोकने की आवश्यकता होती यदि वह उनके जोखिमों को उचित रूप से नियंत्रित नहीं कर सकता। कंपनी ने तर्क किया कि एकतरफा रूप से धीमा होना कमजोर सुरक्षा मानकों वाले प्रतिस्पर्धियों को बढ़त लेने की अनुमति दे सकता है।

कॉक्सन का मानना है कि यह प्रतिस्पर्धात्मक गतिशीलता ही वर्तमान एआई दौड़ को खतरनाक बनाती है। जबकि उन्होंने स्वीकार किया कि एंथ्रोपिक सुरक्षा चिंताओं को गंभीरता से लेता है, उन्होंने तर्क किया कि कोई भी निजी कंपनी स्वतंत्र रूप से उन जोखिमों का प्रबंधन नहीं कर सकती जो उन प्रणालियों के विकास से संबंधित हैं जो अंततः मानव क्षमताओं को पार कर सकती हैं।

उनका इस्तीफा शोधकर्ताओं, प्रौद्योगिकी कार्यकारी और नीति निर्माताओं की बढ़ती चेतावनी की सूची में जोड़ता है जो एआई विकास में तेजी के साथ मजबूत निगरानी और अंतरराष्ट्रीय सहयोग की मांग कर रहे हैं।