पेंटागन के साथ एंथ्रोपिक की अस्तित्व संबंधी बातचीत के अंदर

रक्षा विभाग के साथ एंथ्रोपिक की सप्ताह भर चली लड़ाई सोशल मीडिया पोस्ट, चेतावनी भरे सार्वजनिक बयानों और अनाम पेंटागन अधिकारियों के समाचार मीडिया में सीधे उद्धरणों पर आधारित रही है। लेकिन 380 बिलियन डॉलर के एआई स्टार्टअप का भविष्य केवल तीन शब्दों तक सिमट कर रह गया है: “कोई भी वैध उपयोग।” नई शर्तें, जो OpenAI और xAI के पास हैं कथित तौर पर पहले से ही सहमत, अमेरिकी सेना को बड़े पैमाने पर निगरानी और घातक स्वायत्त हथियारों के लिए सेवाओं का उपयोग करने के लिए कार्टे ब्लैंच देगा, एआई जिसमें लक्ष्य को ट्रैक करने और मारने की पूरी शक्ति है और निर्णय लेने की प्रक्रिया में कोई भी इंसान शामिल नहीं है।

बातचीत से परिचित दो लोगों के अनुसार, पेंटागन के सीटीओ एमिल माइकल, जो पहले राइडहेलिंग कंपनी उबर के एक शीर्ष कार्यकारी थे, ने एंथ्रोपिक को “आपूर्ति श्रृंखला जोखिम” के रूप में नामित करने की सरकार की धमकियों को जन्म दिया है, जिससे बातचीत खराब हो गई है। यह वर्गीकरण आमतौर पर दुर्भावनापूर्ण विदेशी प्रभाव या साइबर युद्ध सहित राष्ट्रीय सुरक्षा के लिए खतरों के लिए आरक्षित है। एंथ्रोपिक सीईओ डारियो अमोदेई करेंगे कथित तौर पर मंगलवार को पेंटागन में सचिव पीट हेगसेथ से मुलाकात हुई और एक अनाम रक्षा अधिकारी ने इसे “बेकार या बकवास बैठक” बताया।

पेंटागन द्वारा एक अमेरिकी कंपनी को यह धमकी जारी करना अभूतपूर्व है। लेकिन पेंटागन सार्वजनिक रूप यह धमकी जारी करना और भी विचित्र है।

सुरक्षा उद्देश्यों के लिए, पेंटागन सार्वजनिक रूप से यह खुलासा नहीं करता है कि इन सूचियों में कौन सी कंपनियां हैं, अगर उनके विचार मेल नहीं खाते हैं तो उन कंपनियों को सार्वजनिक रूप से धमकी देने की बात तो दूर। दरअसल, सेंटर फॉर ए न्यू अमेरिकन सिक्योरिटी (CNAS) के एक वरिष्ठ फेलो जेफ्री गर्ट्ज़ ने बताया द वर्ज वह वर्तमान संघीय नियमों के तहत पेंटागन जनता को सूचित किए बिना या इसका कारण बताए बिना एंथ्रोपिक को जोखिम के रूप में वर्गीकृत कर सकता था। “यह विशेष रूप से उन्हें राष्ट्रीय सुरक्षा जोखिम के रूप में चिह्नित करने और अन्य कंपनियों को एंथ्रोपिक के साथ व्यापार करने से रोकने का अतिरिक्त कदम है, जो यहां से ऊपर और परे जाता है।”

यदि वर्गीकरण को आधिकारिक बना दिया गया, तो इससे पेंटागन के साथ एंथ्रोपिक का $200 मिलियन का अनुबंध समाप्त हो जाएगा, लेकिन इसका एंथ्रोपिक की समग्र निचली रेखा पर अधिक विनाशकारी प्रभाव पड़ेगा। प्रमुख रक्षा ठेकेदार और तकनीकी कंपनियाँ, जैसे AWS, पलान्टिर और एंडुरिल, पेंटागन के लिए अपने काम में एंथ्रोपिक के क्लाउड का उपयोग करते हैं, इस तथ्य के कारण कि यह वर्गीकृत जानकारी का उपयोग करने के लिए स्वीकृत पहला AI मॉडल था। अधिक स्पष्ट रूप से कहें: यदि एंथ्रोपिक को “आपूर्ति श्रृंखला जोखिम” का लेबल दिया जाता है, तो कोई भी कंपनी जो वर्तमान में सेना के साथ काम करती है या कभी सैन्य अनुबंध प्राप्त करने की उम्मीद करती है, उसे एंथ्रोपिक के एआई सिस्टम को छोड़ना होगा, जो उद्योग में सर्वश्रेष्ठ में से कुछ माने जाते हैं। (हेगसेथ के साथ अमोदेई की निर्धारित बैठक से एक शाम पहले, पेंटागन ने इसकी पुष्टि की इसने ग्रोक का उपयोग करने के लिए एक समझौते पर हस्ताक्षर किए थेवर्गीकृत प्रणालियों में एलोन मस्क के xAI द्वारा बनाया गया विवादास्पद AI मॉडल। टिप्पणी के अनुरोध के बाद पेंटागन की तत्काल कोई प्रतिक्रिया नहीं थी।)

इसे बहुत ही संकीर्ण अर्थ में लागू किया जा सकता है – या अत्यंत व्यापक अर्थ में। “मुझे संदेह है कि अधिक तार्किक व्याख्या संकीर्ण परिभाषा होगी, कि एंथ्रोपिक को पेंटागन के लिए काम के एक विशिष्ट विवरण के हिस्से के रूप में इस्तेमाल नहीं किया जा सकता है,” गर्ट्ज़ ने कहा। “लेकिन कुछ रिपोर्टिंग और इसे एंथ्रोपिक के खिलाफ एक दंडात्मक कदम की तरह बनाने के प्रयास के आधार पर, यह उन दोनों परिदृश्यों पर विचार करने लायक है।”

हालाँकि पेंटागन और उनके मीडिया सहयोगी एंथ्रोपिक को “जागृत” करार देने के अभियान पर चले गए हैं, लेकिन उन्होंने अभी तक सुरक्षा कमजोरियों या जासूसी की संभावना के बारे में कोई वास्तविक आरोप नहीं लगाया है। इसके बजाय, आंतरिक चर्चा से परिचित लोगों के अनुसार, टकराव एंथ्रोपिक द्वारा अपनी “स्वीकार्य उपयोग नीति” को लागू करने को लेकर है।

स्थिति से परिचित एक सूत्र ने, जिसने बातचीत की संवेदनशील प्रकृति के कारण नाम न छापने का अनुरोध किया, बताया द वर्ज एंथ्रोपिक ने अपनी लाल रेखाओं के बारे में सरकार को बहुत स्पष्ट कर दिया है, और दो संकीर्ण चीजें हैं जिन पर कंपनी सहमत नहीं होगी: स्वायत्त गतिज संचालन और बड़े पैमाने पर घरेलू निगरानी। सूत्र ने कहा, उत्तरार्द्ध इस तथ्य के कारण है कि “कानून यह नहीं पकड़ पाए हैं कि एआई क्या कर सकता है” और यह अमेरिकी नागरिक स्वतंत्रता का उल्लंघन कर सकता है। पूर्व – घातक स्वायत्त हथियारों के लिए – सूत्र ने कहा कि प्रौद्योगिकी “अभी तक पूरी तरह से स्वायत्त हथियारों के लिए नहीं है, जिसमें कोई मानव शामिल नहीं है।”

एआई गवर्नेंस पर केंद्रित एक गैरपक्षपातपूर्ण अनुसंधान समूह, फ्यूचर ऑफ लाइफ इंस्टीट्यूट में एआई और राष्ट्रीय सुरक्षा प्रमुख हमजा चौधरी ने कहा कि एंथ्रोपिक की लाल रेखाएं पहले से ही वर्तमान सरकार के निर्देशों को प्रतिबिंबित करती हैं जिन्हें निरस्त नहीं किया गया है।

“डीओडी निर्देश 3000.09 के लिए आवश्यक है कि सभी स्वायत्त हथियार प्रणालियों को डिज़ाइन किया जाए ताकि कमांडर और ऑपरेटर ‘बल के उपयोग पर मानवीय निर्णय के उचित स्तर का प्रयोग कर सकें’ और अमेरिकी सरकार द्वारा शुरू की गई और 50 राज्यों द्वारा समर्थित एआई के सैन्य उपयोग पर राजनीतिक घोषणा इस सिद्धांत को स्थापित करती है,” उन्होंने बताया। द वर्ज पाठ के ऊपर. “और DoD निर्देश 5240.01, FY2017 एनडीएए और ट्रम्प-युग के जिम्मेदार एआई कार्यान्वयन मार्ग में प्रावधानों द्वारा प्रबलित, खुफिया घटकों को FISA या शीर्षक 50 जैसे विशिष्ट कानूनी अधिकारियों को छोड़कर अमेरिकी व्यक्तियों पर जानकारी एकत्र करने से रोकता है।

“एंथ्रोपिक की स्वीकार्य उपयोग नीति इन्हीं पंक्तियों को दर्शाती है, और जब तक पेंटागन औपचारिक रूप से इन नीति स्थितियों को त्याग, स्पष्ट या अद्यतन नहीं करता है, तब तक बड़ा सवाल यह है कि क्या कंपनी को उस नीति से बाहर निकलने के लिए मजबूर किया जा सकता है जिसके लिए सरकार खुद सैद्धांतिक रूप से प्रतिबद्ध है।”

पेंटागन की ओर से बातचीत करने वाले माइकल, ट्रम्प द्वारा नियुक्त व्यक्ति और अनुसंधान और इंजीनियरिंग के लिए रक्षा अवर सचिव हैं, इस पद को अक्सर पेंटागन के मुख्य प्रौद्योगिकी अधिकारी के रूप में वर्णित किया जाता है। [first source] माइकल का वर्णन किया गया, जिन्होंने उबर के मुख्य व्यवसाय अधिकारी और एक बार आक्रामक प्रतिष्ठा बनाई पत्रकारों पर विपक्षी शोध करने के बारे में डींगें हांकींएक “कठिन वार्ताकार” के रूप में। (कंपनी के निदेशक मंडल द्वारा एक कार्रवाई के बाद माइकल को 2017 में उबर से बाहर कर दिया गया था कंपनी की संस्कृति की जांच यौन उत्पीड़न, उनके और कई अधिकारियों द्वारा दक्षिण कोरियाई एस्कॉर्ट बार में जाने के कारण भड़का।)

मामले से परिचित एक दूसरे व्यक्ति ने कहा, “यह वास्तव में एमिल के लिए सिद्धांत का मामला है,” माइकल इस बात से नाखुश थे कि एक निजी कंपनी सरकार द्वारा उनकी तकनीक के उपयोग पर रोक लगाने का प्रयास कर रही थी। यह स्पष्ट नहीं है कि व्हाइट हाउस या उद्यम पूंजीपति और शक्तिशाली एआई और क्रिप्टो सम्राट डेविड सैक्स ने माइकल की हार्डबॉल रणनीति को पहले ही मंजूरी दे दी थी।

वर्तमान में, एंथ्रोपिक की “स्वीकार्य उपयोग नीति” को पिछले जुलाई में रक्षा विभाग के साथ हस्ताक्षरित $200 मिलियन के अनुबंध में शामिल किया गया है। अपनी घोषणा में, कंपनी ने पांच बार “जिम्मेदार AI” का उल्लेख किया। उन्होंने लिखा, “इस काम के मूल में हमारा दृढ़ विश्वास है कि सबसे शक्तिशाली प्रौद्योगिकियां सबसे बड़ी जिम्मेदारी निभाती हैं,” उन्होंने लिखा, सरकार के संदर्भ में, “जहां निर्णय लाखों लोगों को प्रभावित करते हैं और दांव ऊंचे नहीं हो सकते,” यह सुनिश्चित करने के लिए जिम्मेदारी “आवश्यक” थी कि “एआई विकास सत्तावादी दुरुपयोग से बचाने के लिए तकनीकी नेतृत्व को बनाए रखते हुए विश्व स्तर पर लोकतांत्रिक मूल्यों को मजबूत करता है।”

लेकिन जनवरी में, हेगसेथ ने एक ज्ञापन प्रकाशित किया यह घोषणा करते हुए कि विभाग “सभी घटकों में एक ‘एआई-प्रथम’ युद्धक बल बन जाएगा” और “किसी भी वैध उपयोग” भाषा को मौजूदा मार्गदर्शन सहित 180 दिनों के भीतर किसी भी एआई सेवा खरीद अनुबंध में शामिल किया जाना चाहिए।

हेगसेथ के ज्ञापन में, उन्होंने बार-बार इस बात पर प्रकाश डाला कि विभाग हर कीमत पर गति को प्राथमिकता देगा, उन्होंने लिखा कि देश को “डेटा साझाकरण में अवरोधकों को खत्म करना होगा… [and] जोखिम ट्रेडऑफ़, ‘इक्विटी’ और अन्य व्यक्तिपरक प्रश्नों को ऐसे देखें जैसे कि हम युद्ध में हों।” उन्होंने यह भी कहा कि जब एआई एजेंटों के विकास और प्रयोग की बात आती है, तो विभाग उन्हें “अभियान योजना से लेकर हत्या श्रृंखला निष्पादन तक” एकीकृत करेगा, साथ ही “इंटेल को घंटों में हथियार में बदल देगा।”

हेगसेथ ने बार-बार सुरक्षा और संभावित त्रुटियों पर गति को प्राथमिकता दी: “हमें यह स्वीकार करना चाहिए कि पर्याप्त तेजी से न चलने के जोखिम अपूर्ण संरेखण के जोखिमों से अधिक हैं।” बाद में उन्होंने मेमो में दोहराते हुए लिखा कि “जिम्मेदार एआई” विभाग में युद्ध के मैदान और सेना के रैंकों दोनों में बड़े बदलाव देखेगा। उन्होंने लिखा, “विविधता, समानता और समावेशन तथा सामाजिक विचारधारा का डीओडब्ल्यू में कोई स्थान नहीं है।” उन्होंने आगे कहा कि विभाग को “उपयोग नीतिगत बाधाओं से मुक्त मॉडल का भी उपयोग करना चाहिए जो वैध सैन्य अनुप्रयोगों को सीमित कर सकते हैं।” ट्रम्प के विरोधी “वोक एआई” के समान कार्यकारी आदेशहेगसेथ ने घोषणा की कि मॉडल निष्पक्षता के लिए बेंचमार्क एआई सेवाओं के लिए एक नया प्राथमिक खरीद मानदंड होगा।

ओपनएआई, एक्सएआई और गूगल ने हेगसेथ के मेमो के साथ तालमेल बिठाने के लिए तुरंत पेंटागन के साथ अपने 200 मिलियन डॉलर के अनुबंध पर फिर से बातचीत की। लेकिन उनमें से किसी भी कंपनी के मॉडल में इम्पैक्ट लेवल 6 सुरक्षा वर्गीकरण नहीं है, जिसका अर्थ है कि एंथ्रोपिक को ब्लैकलिस्ट किए जाने पर चैटजीपीटी, ग्रोक और जेमिनी तुरंत क्लाउड की जगह नहीं ले सकते – एक एकल-आपूर्तिकर्ता भेद्यता जो पेंटागन पर प्रतिकूल प्रभाव डालेगी।

चौधरी ने कहा, “क्लाउड एकमात्र फ्रंटियर एआई मॉडल है जो पूरी तरह से वर्गीकृत पेंटागन नेटवर्क पर काम कर रहा है, जिसे पलान्टिर के एआई प्लेटफॉर्म और अमेज़ॅन के टॉप सीक्रेट क्लाउड के माध्यम से तैनात किया गया है, जिसका अर्थ है कि यह वर्कफ़्लो के केंद्र में बैठता है जिसे अधिकांश अन्य मॉडल अभी तक एक्सेस नहीं कर सकते हैं।” “पदनाम के लिए सरकारी काम चाहने वाले प्रत्येक रक्षा ठेकेदार को यह प्रमाणित करने की आवश्यकता होगी कि उन्होंने अपने सिस्टम से सभी एंथ्रोपिक तकनीक हटा दी है।”

इससे पेंटागन के साथ उसके टकराव में एंथ्रोपिक लाभ मिला है, जो कथित तौर पर कंपनी को यह पता चलने के बाद और अधिक तीव्र हो गया है इसके मॉडल का उपयोग वेनेज़ुएला के राष्ट्रपति निकोलस मादुरो को पकड़ने में किया गया थाउनके वर्तमान समझौते का उल्लंघन।

एंथ्रोपिक तकनीकी रूप से अन्य एआई प्रयोगशालाओं के साथ समन्वय या एकजुट होने का प्रयास नहीं कर सकता है, जिन्हें नई शर्तों की पेशकश की जा रही है, भले ही वे सहमत होने के लिए तैयार हों, क्योंकि यह संघीय खरीद नियमों के खिलाफ होगा। लेकिन चूंकि लड़ाई लोगों की नजरों में आ रही है, तकनीकी कर्मचारियों, एआई कर्मचारियों और वर्तमान में या पूर्व में तकनीकी उद्योग में काम करने वाले अन्य लोगों ने निराशा व्यक्त की है कि अन्य कंपनियां एंथ्रोपिक के समान शर्तों के लिए नहीं लड़ रही हैं। दूसरों को लगता था कि एंथ्रोपिक के हार मानने में कुछ ही समय लगेगा।

“यह वास्तव में एक अच्छा समय होगा [other labs] ऐसा होना, ‘रुको, आप हमारी तकनीक के साथ क्या कर रहे हैं?” विलियम फिट्जगेराल्ड, एक पूर्व Google कर्मचारी, जो अब द वर्कर एजेंसी नामक एक वकालत फर्म चलाते हैं, ने कहा। “इन एआई लैब के लोगों के पास बहुत शक्ति है। वे छोटी टीमें हैं, और वे अभी भी आकार दे रहे हैं कि वे कौन बनने जा रहे हैं… मुझे लगता है कि वे सैन्य कार्य के बिना अपने मूल्यांकन को उचित ठहरा सकते हैं। ऐसे अन्य तरीके हैं जिनसे आप अपने व्यवसाय मॉडल में लोगों को मारे बिना व्यवसाय चला सकते हैं।