एंथ्रोपिक अपने क्लाउड एआई चैटबॉट को “राजनीतिक रूप से सम-सशक्त” बनाने के अपने प्रयासों का विवरण दे रहा है – यह कदम राष्ट्रपति डोनाल्ड ट्रम्प द्वारा “वोक एआई” पर प्रतिबंध जारी करने के कुछ ही महीने बाद आया है। जैसा कि एक नए ब्लॉग पोस्ट में बताया गया है, एंथ्रोपिक का कहना है कि वह चाहता है कि क्लाउड “विरोधी राजनीतिक दृष्टिकोणों को समान गहराई, जुड़ाव और विश्लेषण की गुणवत्ता के साथ व्यवहार करे।”
जुलाई में, ट्रम्प ने एक कार्यकारी आदेश पर हस्ताक्षर किए जिसमें कहा गया है कि सरकार को केवल “निष्पक्ष” और “सच्चाई की तलाश करने वाले” एआई मॉडल की खरीद करनी चाहिए। हालाँकि यह आदेश केवल सरकारी एजेंसियों पर लागू होता है, लेकिन प्रतिक्रिया में कंपनियाँ जो बदलाव करती हैं, वे संभवतः व्यापक रूप से जारी किए गए एआई मॉडल तक सीमित हो जाएंगे, क्योंकि “मॉडल को इस तरह से परिष्कृत करना कि उन्हें लगातार और अनुमानित रूप से कुछ दिशाओं में संरेखित करना एक महंगी और समय लेने वाली प्रक्रिया हो सकती है,” जैसा कि मेरे सहयोगी आदि रॉबर्टसन ने नोट किया है। पिछले महीने, OpenAI ने इसी तरह कहा था कि वह ChatGPT में पूर्वाग्रह पर “नकेल कसेगा”।
एंथ्रोपिक ने अपनी प्रेस विज्ञप्ति में ट्रम्प के आदेश का उल्लेख नहीं किया है, लेकिन यह कहता है कि उसने क्लाउड को नियमों की एक श्रृंखला का पालन करने का निर्देश दिया है – जिसे सिस्टम प्रॉम्प्ट कहा जाता है – जो उसे “अनचाही राजनीतिक राय” प्रदान करने से बचने का निर्देश देता है। यह तथ्यात्मक सटीकता बनाए रखने और “एकाधिक परिप्रेक्ष्य” का प्रतिनिधित्व करने वाला भी माना जाता है। एंथ्रोपिक का कहना है कि क्लाउड के सिस्टम प्रॉम्प्ट में इन निर्देशों को शामिल करना राजनीतिक तटस्थता सुनिश्चित करने के लिए “एक मूर्खतापूर्ण तरीका नहीं है”, फिर भी यह अपनी प्रतिक्रियाओं में “पर्याप्त अंतर” ला सकता है।
इसके अतिरिक्त, एआई स्टार्टअप वर्णन करता है कि कैसे वह “पूर्व-परिभाषित ‘विशेषताओं’ के सेट के करीब प्रतिक्रिया उत्पन्न करने के लिए मॉडल को पुरस्कृत करने के लिए सुदृढीकरण सीखने का उपयोग करता है।”
एंथ्रोपिक ने यह भी घोषणा की कि उसने एक ओपन-सोर्स टूल बनाया है जो राजनीतिक तटस्थता के लिए क्लाउड की प्रतिक्रियाओं को मापता है, इसके सबसे हालिया परीक्षण में क्लाउड सॉनेट 4.5 और क्लाउड ओपस 4.1 को समान रूप से 95 और 94 प्रतिशत के संबंधित स्कोर मिलते हैं। एंथ्रोपिक के अनुसार, यह मेटा के लामा 4 से 66 प्रतिशत और जीपीटी-5 से 89 प्रतिशत अधिक है।
एंथ्रोपिक अपने ब्लॉग पोस्ट में लिखता है, “यदि एआई मॉडल कुछ विचारों को गलत तरीके से लाभ पहुंचाते हैं – शायद खुले तौर पर या सूक्ष्मता से एक पक्ष के लिए अधिक प्रेरक रूप से बहस करके, या कुछ तर्कों के साथ पूरी तरह से जुड़ने से इनकार करके – वे उपयोगकर्ता की स्वतंत्रता का सम्मान करने में विफल रहते हैं, और वे उपयोगकर्ताओं को अपना निर्णय लेने में सहायता करने के कार्य में विफल रहते हैं।”