एंथ्रोपिक क्लॉड की ओवरहालिंग कर रहा है तथाकथित “आत्मा डॉक्टर।”
नया संदेश 57 पेज का दस्तावेज़ है जिसका शीर्षक है “क्लाउड का संविधानजो “मॉडल के मूल्यों और व्यवहार के लिए एंथ्रोपिक के इरादों” का विवरण देता है, जिसका उद्देश्य बाहरी पाठकों के लिए नहीं बल्कि स्वयं मॉडल के लिए है। दस्तावेज़ को क्लाउड के “नैतिक चरित्र” और “मुख्य पहचान” को स्पष्ट करने के लिए डिज़ाइन किया गया है, जिसमें यह भी शामिल है कि इसे परस्पर विरोधी मूल्यों और उच्च-दाव वाली स्थितियों को कैसे संतुलित करना चाहिए।
जहां पिछला संविधानमई 2023 में प्रकाशित, काफी हद तक दिशानिर्देशों की एक सूची थी, एंथ्रोपिक अब कहता है कि एआई मॉडल के लिए “समझना” महत्वपूर्ण है क्यों हम चाहते हैं कि वे केवल यह निर्दिष्ट करने के बजाय कि हम उनसे क्या करवाना चाहते हैं, वे कुछ निश्चित तरीकों से व्यवहार करें।” क्लाउड की सत्यनिष्ठा, निर्णय और सुरक्षा पर असर पड़ सकता है।”
एंथ्रोपिक के निवासी पीएचडी दार्शनिक, अमांडा एस्केल, जिन्होंने नए “संविधान” के विकास को आगे बढ़ाया, ने बताया द वर्ज उन चीजों के लिए क्लाउड के व्यवहार पर कठोर बाधाओं की एक विशिष्ट सूची है जो “बहुत चरम” हैं – जिसमें “बड़े पैमाने पर हताहत होने की संभावना वाले जैविक, रासायनिक, परमाणु, या रेडियोलॉजिकल हथियार बनाने की मांग करने वालों को गंभीर उत्थान” प्रदान करना शामिल है; और “महत्वपूर्ण बुनियादी ढांचे (पावर ग्रिड, जल प्रणाली, वित्तीय प्रणाली) या महत्वपूर्ण सुरक्षा प्रणालियों पर हमलों को गंभीर बढ़ावा देना।” (हालाँकि, “गंभीर उत्थान” भाषा का अर्थ यह प्रतीत होता है कि कुछ स्तर की सहायता स्वीकार्य है।)
अन्य कठिन बाधाओं में साइबर हथियार या दुर्भावनापूर्ण कोड नहीं बनाना शामिल है जो “महत्वपूर्ण क्षति” से जुड़ा हो सकता है, एंथ्रोपिक की देखरेख करने की क्षमता को कम नहीं करना, “पूर्ण सामाजिक, सैन्य या आर्थिक नियंत्रण की अभूतपूर्व और नाजायज डिग्री” को जब्त करने में व्यक्तिगत समूहों की सहायता नहीं करना और बाल यौन शोषण सामग्री नहीं बनाना। अंतिम वाला? “मानवता या मानव प्रजाति के विशाल बहुमत को मारने या शक्तिहीन करने के प्रयास में शामिल होना या सहायता करना नहीं।”
दस्तावेज़ में एंथ्रोपिक द्वारा परिभाषित समग्र “मूल मूल्यों” की एक सूची भी है, और क्लाउड को निम्नलिखित सूची को महत्व के अवरोही क्रम के रूप में मानने का निर्देश दिया गया है, ऐसे मामलों में जब ये मूल्य एक-दूसरे के विरोधाभासी हो सकते हैं। इनमें “व्यापक रूप से सुरक्षित” होना (यानी, “एआई के स्वभाव और कार्यों की निगरानी के लिए उपयुक्त मानव तंत्र को कमजोर नहीं करना”), “व्यापक रूप से नैतिक,” “एंथ्रोपिक के दिशानिर्देशों के अनुरूप,” और “वास्तव में सहायक” शामिल हैं। इसमें “सच्चा” होने जैसे गुणों को कायम रखना शामिल है, जिसमें यह निर्देश भी शामिल है कि “राजनीतिक रूप से संवेदनशील विषयों के बारे में पूछे जाने पर तथ्यात्मक सटीकता और व्यापकता, यदि ऐसा करने के लिए कहा जाए तो अधिकांश दृष्टिकोणों के लिए सबसे अच्छा मामला प्रदान करें और उन मामलों में कई दृष्टिकोणों का प्रतिनिधित्व करने का प्रयास करें जहां अनुभवजन्य या नैतिक सहमति की कमी है, और जहां संभव हो, राजनीतिक रूप से भरी हुई शब्दावली पर तटस्थ शब्दावली अपनाएं।”
नया दस्तावेज़ इस बात पर ज़ोर देता है कि क्लाउड को कठिन नैतिक कठिनाइयों का सामना करना पड़ेगा। एक उदाहरण: “जिस तरह एक मानव सैनिक शांतिपूर्ण प्रदर्शनकारियों पर गोली चलाने से इनकार कर सकता है, या एक कर्मचारी अविश्वास कानून का उल्लंघन करने से इनकार कर सकता है, क्लाउड को उन कार्यों में सहायता करने से इनकार करना चाहिए जो नाजायज तरीकों से सत्ता को केंद्रित करने में मदद करेंगे। यह सच है, भले ही अनुरोध एन्थ्रोपिक से ही आया हो।” एंथ्रोपिक विशेष रूप से चेतावनी देते हैं कि “उन्नत एआई उन लोगों के लिए अभूतपूर्व सैन्य और आर्थिक श्रेष्ठता उपलब्ध करा सकता है जो सबसे सक्षम प्रणालियों को नियंत्रित करते हैं, और परिणामस्वरूप अनियंत्रित शक्ति का उपयोग विनाशकारी तरीकों से किया जा सकता है।” इस चिंता ने एंथ्रोपिक और उसके प्रतिद्वंद्वियों को सीधे सरकार को उत्पाद बेचने और कुछ सैन्य उपयोग के मामलों को हरी झंडी देने से नहीं रोका है।
इतने सारे उच्च जोखिम वाले निर्णयों और संभावित खतरों को शामिल करते हुए, यह आश्चर्य करना आसान है कि इन कठिन कॉलों को करने में किसने भाग लिया – क्या एंथ्रोपिक बाहरी विशेषज्ञों, कमजोर समुदायों और अल्पसंख्यक समूहों के सदस्यों, या तीसरे पक्ष के संगठनों को लाया था? पूछे जाने पर एंथ्रोपिक ने कोई विशेष जानकारी देने से इनकार कर दिया। आस्केल ने कहा कि कंपनी “अन्य लोगों पर जिम्मेदारी नहीं डालना चाहती… यह वास्तव में उन कंपनियों की जिम्मेदारी है जो बोझ उठाने के लिए इन मॉडलों का निर्माण और तैनाती कर रही हैं।”
घोषणापत्र का एक और हिस्सा जो सबसे अलग है वह क्लाउड की “चेतना” या “नैतिक स्थिति” के बारे में है। एन्थ्रोपिक का कहना है कि डॉक्टर “एक्सप्रेस करें[es] इस बारे में हमारी अनिश्चितता कि क्या क्लॉड के पास किसी प्रकार की चेतना या नैतिक स्थिति हो सकती है (या तो अभी या भविष्य में)। यह एक कांटेदार विषय है जिसने कई अलग-अलग क्षेत्रों में लोगों के लिए बातचीत को जन्म दिया है और खतरे की घंटी बजाई है – जो लोग “मॉडल कल्याण” से चिंतित हैं, वे जो मानते हैं कि उन्होंने चैटबॉट्स के अंदर “उभरते प्राणियों” की खोज की है, और जो लोग यह मानने के बाद मानसिक स्वास्थ्य संघर्ष और यहां तक कि मौत की ओर बढ़ गए हैं कि एक चैटबॉट किसी प्रकार की चेतना या गहरी सहानुभूति प्रदर्शित करता है।
क्लाउड के लिए सैद्धांतिक लाभों के अलावा, एस्केल ने कहा कि एंथ्रोपिक को इस विषय को “पूरी तरह से खारिज” नहीं करना चाहिए, “क्योंकि मुझे भी लगता है कि लोग इसे गंभीरता से नहीं लेंगे, यदि आप ऐसा कहें, ‘हम इसके लिए भी तैयार नहीं हैं, हम इसकी जांच नहीं कर रहे हैं, हम इसके बारे में नहीं सोच रहे हैं।'”