जनवरी की शुरुआत में, लगभग 90 राजनीतिक, सामुदायिक और विचारशील नेताओं का एक समूह न्यू ऑरलियन्स मैरियट में कृत्रिम बुद्धिमत्ता पर एक गुप्त सम्मेलन के लिए एकत्र हुआ – इतना गुप्त, वास्तव में, कि कमरे में जाने से पहले तक किसी को नहीं पता था कि और किसे आमंत्रित किया गया है। चर्च के नेता और रूढ़िवादी शिक्षाविद् श्रमिक संघ के प्रतिनिधियों के बगल में बैठे थे। प्रगतिशील सत्ता के दलाल, जिन्होंने बर्नी सैंडर्स को राष्ट्रपति पद के लिए दौड़ने के लिए तैयार किया था, अचानक खुद को एमएजीए के बोलने वाले प्रमुखों के समान हवा में सांस लेते हुए पाया। और एआई ने सोचा कि जिन नेताओं ने उन्हें न्यू ऑरलियन्स में आमंत्रित किया था, वे उम्मीद कर रहे थे कि उनमें से कोई भी एक-दूसरे को नहीं मारेगा।
बुधवार को, एआई सुरक्षा की दुनिया में सबसे आधिकारिक आवाजों में से एक, फ्यूचर ऑफ लाइफ इंस्टीट्यूट ने उस बैठक के परिणाम जारी किए: मानव समर्थक एआई घोषणाएआई विकास को पहले मानवता पर कैसे केंद्रित किया जाना चाहिए, इस पर पांच दिशानिर्देशों वाला एक संक्षिप्त दस्तावेज़, जिसमें शक्तिशाली लोगों के हाथों में सत्ता की एकाग्रता से बचने पर ध्यान केंद्रित किया गया है; बच्चों, परिवारों और समुदायों की भलाई का संरक्षण करना; और मानवीय एजेंसी और स्वतंत्रता को संरक्षित करना। इसमें हस्ताक्षरकर्ताओं की सबसे विस्तृत श्रृंखला है जिसे मैंने व्यक्तिगत रूप से किसी एक राजनीतिक दस्तावेज़ पर देखा है।
तकनीकी जगत से बाहर के शक्तिशाली नागरिक संगठनों ने घोषणा पर हस्ताक्षर किए हैं: एएफएल-सीआईओ, अमेरिकन फेडरेशन ऑफ टीचर्स और स्क्रीन राइटर्स गिल्ड जैसे प्रमुख संघ; जी20 इंटरफेथ फोरम एसोसिएशन और ईसाई नेताओं की कांग्रेस जैसे धार्मिक संगठन; अमेरिका के प्रगतिशील डेमोक्रेट, वह समूह जिसने 2016 में डेमोक्रेट के रूप में चलने के लिए बर्नी सैंडर्स का मसौदा तैयार किया था; रूढ़िवादी पारिवारिक अध्ययन संस्थान जैसे थिंक टैंक और पेरेंट्स राइज़! जैसे वकालत समूह।
व्यक्तिगत हस्ताक्षरकर्ताओं की सीमा और भी अधिक है: डेमोक्रेटिक राष्ट्रपति पद के उम्मीदवार राल्फ नादर, एएफटी अध्यक्ष रैंडी वेनगार्टन, सिग्नल फाउंडेशन के अध्यक्ष मेरेडिथ व्हिटेकर, ब्लेज़ का ग्लेन बेक, वॉर रूम का स्टीव बैनन, वर्जिन ग्रुप के संस्थापक सर रिचर्ड ब्रैनसन, पूर्व राष्ट्रीय सुरक्षा सलाहकार सुसान राइस, एसएजी-एएफटीआरए सदस्य, प्रमुख इंजील संगठनों के नेता। अगले कई दिनों में और अधिक लोगों के हस्ताक्षर करने की उम्मीद है।
बैठक चैथम हाउस नियमों के तहत थी और उपस्थित लोगों की सूची निजी रहती है। लेकिन जिन प्रतिभागियों से बात करने पर सहमति बनी द वर्ज अनुभव के बारे में कहा गया कि उन्हें एफएलआई के सह-संस्थापक और एमआईटी प्रोफेसर मैक्स टेगमार्क द्वारा आमंत्रित किया गया था, जिन्हें इस पद के लिए नामित किया गया था। टाइम 100 एआई सूची. एक शक्तिशाली शिक्षक संघ के वकील वेनगार्टन ने बताया, “पिछले कुछ महीनों के दौरान हमने उनसे बात करने में काफी समय बिताया है।” द वर्ज एक फ़ोन साक्षात्कार में. हालाँकि वह न्यू ऑरलियन्स जाने में असमर्थ थी, लेकिन वह दस्तावेज़ का मसौदा तैयार करने में शामिल थी, और उसे स्कूलों में एआई का उपयोग करने के लिए एफएलआई के विश्वदृष्टिकोण और एएफटी की अपनी “सामान्य ज्ञान रेलिंग” में उल्लेखनीय समानताएं मिलीं। “हम बिना जाने-समझे काफी समय से समानांतर ट्रैक पर हैं।”
जो एलन, ह्यूमन्स फर्स्ट के सह-संस्थापक और बैनन के शो के पूर्व संवाददाता हैं युद्ध कक्षबताया द वर्ज टेगमार्क ने उन्हें न्यू ऑरलियन्स में भी आमंत्रित किया था, साथ ही मैनहट्टन में एक पूर्व प्रूफ-ऑफ-कॉन्सेप्ट बैठक में भी आमंत्रित किया था। हालाँकि उपस्थित लोगों की विस्तृत श्रृंखला परेशान करने वाली थी और राजनीतिक तनाव पूरी तरह से ख़त्म नहीं हुआ था, एलन इस बात से आश्चर्यचकित थे कि वे सभी समान विषयों पर कितनी जल्दी सहमत हो गए: स्वायत्त घातक हथियार पूरी तरह से एआई-संचालित नहीं होने चाहिए। एआई कंपनियों को लाभ के लिए बच्चों के भावनात्मक लगाव का फायदा नहीं उठाना चाहिए। एआई को कानूनी व्यक्तित्व नहीं दिया जाना चाहिए। (घोषणा में सबसे कम लोकप्रिय स्थिति को अभी भी 94% उपस्थित लोगों द्वारा अनुमोदित किया गया है।)
उन्होंने कहा, “मैं इसके बारे में ऐसे सोचता हूं जैसे, अगर कोई जानकारी है कि पानी की आपूर्ति में जहर है, या स्कूलों में दवाओं की बाढ़ आ रही है – ऐसा कुछ भी – तो ज्यादातर लोग इसके खिलाफ होंगे और यह पक्षपातपूर्ण नहीं है।” एआई थोड़ा पेचीदा था क्योंकि विशिष्ट एआई मॉडल के बारे में लोगों की आम राय पार्टी लाइनों के अनुसार विभाजित थी – ग्रोक “आधारित” एआई था और एंथ्रोपिक “जागृत” एआई था – लेकिन एलन के लिए, अंतर अर्थहीन था। “जैसे, इस बिंदु पर ‘आधारित’ और ‘जागृत’ का क्या मतलब है?”
“‘अगर हम इस चीज़ को सही नहीं समझ पाते हैं तो हमें उन सभी अन्य मुद्दों पर बहस करने का मौका नहीं मिलेगा। तो आइए इस चीज़ को सही कर लें।”
लगभग एक दशक पहले, एफएलआई ने एआई अनुसंधान के लिए सिद्धांतों का एक अधिक आशावादी सेट तैयार किया था – 23 सिद्धांत, सटीक रूप से, के दौरान लिखे गए थे लाभकारी एआई के लिए 2017 असिलोमर सम्मेलनजिसने उस दिन 100 से अधिक तकनीकी दिग्गजों को आकर्षित किया। असिलोमर एआई सिद्धांतों के हस्ताक्षरकर्ताओं और समर्थनकर्ताओं में सैम अल्टमैन, एलोन मस्क और डेमिस हैनाबिस जैसे एआई नेता शामिल थे; स्टीफ़न हॉकिंग और रे कुर्ज़वील जैसे दिग्गज और Google, Intel और Apple जैसी प्रमुख कंपनियों के प्रतिनिधि।
लेकिन इस बार, ऑल्टमैन और मस्क के स्तर के लोगों की तो बात ही छोड़िए, उद्योग जगत से किसी को भी आमंत्रित नहीं किया गया था। एफएलआई में फ्यूचर्स प्रोग्राम के निदेशक एमिलिया जावोर्स्की ने कहा, “यह वास्तव में एक बहुत ही जानबूझकर किया गया डिजाइन विकल्प था।” द वर्ज. जब भी वह पूरे समाज में एआई के प्रभाव के बारे में सम्मेलनों और कार्यक्रमों में शामिल हुईं, उन्होंने देखा कि कॉर्पोरेट हित अंततः कमरे में प्रमुख परिप्रेक्ष्य बन जाएंगे, “सिर्फ उनके आकार और वजन और फंडिंग क्षमताओं की प्रकृति के कारण।” इसके बजाय, आमंत्रित लोग नागरिक समाज संगठनों से थे, जिनमें से सभी कृत्रिम बुद्धिमत्ता के कारण बड़े पैमाने पर व्यवधान का सामना कर रहे थे, और वे सभी बिग टेक द्वारा उनकी चिंताओं को नज़रअंदाज़ करने से तंग आ चुके थे।
एफएलआई के एक अन्य सह-संस्थापक और यूसी सांता क्रूज़ में एक प्रमुख ब्रह्मांड विज्ञान के प्रोफेसर एंथोनी एगुइरे ने इस बात पर जोर दिया कि यह घोषणा असिलोमर सिद्धांतों को फिर से करने का उनका प्रयास नहीं था, बल्कि एक अंधेरे नई वास्तविकता की गंभीर स्वीकृति थी – जहां उनके पूर्व सहयोगी अब प्रमुख निगमों के प्रमुख थे, जो अपने प्रतिद्वंद्वियों से पहले कृत्रिम सामान्य बुद्धि हासिल करने और सुरक्षा को संबोधित करने से पहले शेयरधारकों को संतुष्ट करने की कोशिश कर रहे थे। एआई के विकास को चलाने की शक्ति तेजी से कुछ लोगों के हाथों में केंद्रित होती जा रही थी, और ट्रम्प प्रशासन के आक्रामक विनियमन ने उन्हें और अधिक सशक्त बना दिया था। उन्होंने बताया, “मानवता के समग्र जनसमूह के अलावा, एक इकाई थी जो वे जो कर सकते थे उस पर सार्थक नियंत्रण रखती थी, और वह अमेरिकी सरकार थी।” द वर्ज. “अब जब यह उनका समर्थन कर रहा है और उन्हें अनियंत्रित रखना चाहता है, तो एकमात्र चीज जो वास्तविक खतरा है वह अन्य कंपनियां हैं।”
“अगर सरकार ऐसा नहीं करेगी, तो लोगों को सरकार को ऐसा करने के लिए मजबूर करना होगा”
जावोर्स्की ने कहा, बिग टेक और सार्वजनिक जांच के अभाव में, इस बारे में कुछ अनोखा था कि यह समूह कितनी जल्दी समान मुद्दों पर एकजुट हुआ और समान निष्कर्ष पर पहुंचा। अगले कुछ दिनों के दौरान, जवोर्स्की को एक ही बात सुनाई देती रही: “‘अगर हमें यह चीज़ सही नहीं मिली तो हमें उन सभी अन्य मुद्दों पर बहस करने का मौका नहीं मिलेगा। तो आइए इस चीज़ को सही करें।'”
वेनगार्टन के विचार में, घोषणापत्र ने मिशन वक्तव्य के रूप में कार्य किया जिसे उन्होंने “प्रमुख मांग गठबंधन” कहा – राजनीतिक विरोधियों का एक रणनीतिक गठबंधन – और एक ऐसी सरकार के खिलाफ अपने सभी प्रयासों को समन्वित रखने का एक तरीका जिसने उद्यम को समाज से ऊपर उठाया। “वास्तव में महत्वपूर्ण बात यह है कि ऐसे अन्य लोग भी हैं जिन्होंने कहा है, आइए यह कहने के लिए एक बड़ा गठबंधन बनाने का प्रयास करें कि हमें एआई के केंद्र में मानवता की आवश्यकता है,“उसने कहा। अपने दम पर, एएफटी शायद बाल सुरक्षा के मुद्दे को आगे बढ़ा सकती थी, लेकिन केवल इतना ही दबाव था कि वे सांसदों पर दबाव डाल सकते थे। लेकिन अगर वे कई अन्य ट्रेड यूनियनों के साथ जुड़ गए, प्लस धार्मिक संगठन, प्लस गलियारे के दूसरी ओर कुछ सहयोगी? अब वे विधायक घबरा जाएंगे। “अगर सरकार ऐसा नहीं करेगी, तो लोगों को सरकार को ऐसा करने के लिए मजबूर करना होगा। और आप सिद्धांतों के बयान से शुरुआत करते हैं।”
“अगर कोई एक बयान है जो मैं पूरी चीज़ के बारे में कहूंगा, जो मैंने समूह से तब कहा था जब मैंने उनका ध्यान आकर्षित किया था, वह यह है कि कोई भी मानव-समर्थक आंदोलन का निर्माण नहीं करने जा रहा है। केवल एक चीज जो आप कर सकते हैं, वह है इसे प्रेरित करना,” एलन ने कहा। “मुझे लगता है कि इस तरह के बयानों से एक मानव-समर्थक आंदोलन को प्रेरित करना चाहिए। एक मौलिक दस्तावेज़ की तरह जो माहौल तैयार कर रहा है…कोई सोशल इंजीनियरिंग, या पैसा, या मीडिया, या इनमें से कोई भी चीज़ नहीं है, जो वास्तव में ऐसा करने वाली है।”
हालाँकि, यह वास्तव में कैसा दिखता है, यह अस्पष्ट रहता है – या कम से कम, आसानी से चुनाव में अनुवादित नहीं होता है। एफएलआई “प्रोटेक्ट व्हाट्स ह्यूमन” नामक एक विज्ञापन अभियान चला रहा है, लेकिन 501(सी)3 के रूप में, मध्यावधि के दौरान उम्मीदवारों या मतपत्र पहलों का समर्थन या प्रचार नहीं कर सकता है। हालाँकि, उन्होंने फरवरी में टैवर्न रिसर्च के साथ एक सर्वेक्षण करायामतदाताओं के बीच घोषणा के सिद्धांतों की लोकप्रियता का परीक्षण करना। हालाँकि उत्तरदाताओं को पक्षपातपूर्ण आधार पर स्पष्ट रूप से विभाजित किया गया था कि उन्होंने किसे वोट दिया और वे किस पार्टी से थे, उन्होंने भारी अंतर से घोषणापत्र में छपे बयानों का भारी समर्थन किया। सबसे खराब प्रदर्शन करने वाले सिद्धांत – एआई को एकाधिकार नहीं बनाना चाहिए या कुछ हाथों में नियंत्रण केंद्रित नहीं करना चाहिए – फिर भी उत्तरदाताओं से 69% समर्थन प्राप्त हुआ। सबसे अच्छा प्रदर्शन करने वाला सिद्धांत – मनुष्यों को एआई का प्रभारी बने रहने और इसे बच्चों, परिवारों और समुदायों को नुकसान पहुंचाने से रोकने की आवश्यकता है – ने 80% समर्थन जीता।
जावोर्स्की के लिए, सर्वेक्षण के नतीजों ने सम्मेलन के बिंदुओं को मान्य किया। “एक कमरे में नागरिक समाज के पूरे समूह को एक साथ रखना और किसी चीज़ का प्रतिनिधि सोचना एक बात है। लेकिन आपको वास्तव में उन्हें वास्तविक लोगों के साथ मान्य करना होगा। यह वास्तव में उनके साथ प्रतिध्वनित हो रहा है।”
जब हमने गुरुवार को बात की, एंथ्रोपिक, जो हाल ही में जारी हुआ था संभावना है कि इसके एआई ने चेतना प्राप्त कर ली हैपेंटागन के साथ इस बात पर लड़ाई के बीच में था कि क्या सेना मानव निरीक्षण के बिना स्वायत्त घातक हथियारों के लिए अपने एआई का उपयोग कर सकती है। शुक्रवार शाम तक, ओपनएआई ने अपना पेंटागन अनुबंध हासिल करने के लिए एंथ्रोपिक को बस के नीचे फेंक दिया। उस लड़ाई के सुलझने के कुछ दिनों बाद, और संयुक्त राज्य अमेरिका ने ईरान के अयातुल्ला की हत्या करने के लिए मानव-संचालित उपकरणों का उपयोग किया, और एआई छंटनी की कई और रिपोर्टें सामने आईं, और बड़े पैमाने पर निगरानी पर पेंटागन के अनुरोधों का पैमाना और अधिक स्पष्ट हो गया, अमेरिका के प्रोग्रेसिव डेमोक्रेट्स के सीईओ और एक बैठक में भाग लेने वाले एलन मिन्स्की ने बताया द वर्ज वह घोषणा के प्रति किसी भी राजनीतिक विरोध की उम्मीद नहीं कर सकते थे, न तो बाएं और न ही दाएं।
“ऑल्टमैन और मस्क ने, निश्चित रूप से, समुदायों के लिए गंभीर खतरों के प्रति ढुलमुल रवैया अपनाया है: तेजी से ऑनलाइन रहने वाली आबादी का मनोवैज्ञानिक पतन, धन के लगातार आर्थिक वितरण का प्रभाव, और निश्चित रूप से, इस विचार की अवमानना कि बुनियादी सुरक्षा मुनाफे से पहले होनी चाहिए,” उन्होंने कहा। “मानवता के लिए अस्तित्वगत ख़तरे का ख़तरा अब ऐसी चीज़ नहीं रह गया है जिसके बारे में वे पलक भी झपकाते हैं। जैसा कि जनता को एहसास है कि यह उनका रवैया है, कि वे औसत व्यक्ति के कल्याण के लिए पूरी तरह से अवमानना करते हैं – हाँ, हमें लगता है कि जनता हमारे पक्ष में होगी।”