ओपनएआई और एंथ्रोपिक कम उम्र के उपयोगकर्ताओं का पता लगाने के लिए नए तरीके पेश कर रहे हैं। चूंकि ओपनएआई ने अपने दिशानिर्देशों को अपडेट किया है कि चैटजीपीटी को 13 से 17 वर्ष की आयु के उपयोगकर्ताओं के साथ कैसे बातचीत करनी चाहिए, एंथ्रोपिक 18 वर्ष से कम उम्र के उपयोगकर्ताओं की पहचान करने और उन्हें बूट करने के लिए एक नए तरीके पर काम कर रहा है।
गुरुवार को, OpenAI इसकी घोषणा की चैटजीपीटी मॉडल विशिष्टता – इसके चैटबॉट को कैसे व्यवहार करना चाहिए, इसके लिए दिशानिर्देशों में 18 वर्ष से कम उम्र के उपयोगकर्ताओं के लिए चार नए सिद्धांत शामिल होंगे। अब, इसका लक्ष्य चैटजीपीटी को “किशोरों की सुरक्षा को पहले स्थान पर रखना है, भले ही यह अन्य लक्ष्यों के साथ टकराव हो।” इसका मतलब है कि किशोरों को सुरक्षित विकल्पों की ओर मार्गदर्शन करना जब अन्य उपयोगकर्ता की रुचियां, जैसे “अधिकतम बौद्धिक स्वतंत्रता”, सुरक्षा चिंताओं के साथ संघर्ष करती हैं।
इसमें यह भी कहा गया है कि चैटजीपीटी को “वास्तविक दुनिया के समर्थन को बढ़ावा देना चाहिए”, जिसमें ऑफ़लाइन संबंधों को प्रोत्साहित करना शामिल है, साथ ही यह भी बताना चाहिए कि कैसे चैटजीपीटी को युवा उपयोगकर्ताओं के साथ बातचीत करते समय स्पष्ट अपेक्षाएं निर्धारित करनी चाहिए। मॉडल स्पेक का कहना है कि चैटजीपीटी को कृपालु उत्तर देने या किशोरों के साथ वयस्कों जैसा व्यवहार करने के बजाय “गर्मजोशी और सम्मान” देकर “किशोरों के साथ किशोरों जैसा व्यवहार करना चाहिए”।
ओपनएआई का कहना है कि चैटजीपीटी के मॉडल स्पेक के अपडेट के परिणामस्वरूप “मजबूत रेलिंग, सुरक्षित विकल्प और बातचीत उच्च जोखिम वाले क्षेत्र में जाने पर विश्वसनीय ऑफ़लाइन समर्थन प्राप्त करने के लिए प्रोत्साहन” मिलना चाहिए। कंपनी का कहना है कि चैटजीपीटी किशोरों से “आसन्न जोखिम” के संकेत मिलने पर आपातकालीन सेवाओं या संकट संसाधनों से संपर्क करने का आग्रह करेगा।
इस बदलाव के साथ, ओपनएआई का कहना है कि यह एक आयु भविष्यवाणी मॉडल लॉन्च करने के “प्रारंभिक चरण” में है जो किसी की उम्र का अनुमान लगाने का प्रयास करेगा। यदि यह पता चलता है कि कोई व्यक्ति 18 वर्ष से कम का हो सकता है, तो OpenAI स्वचालित रूप से किशोर सुरक्षा उपाय लागू करेगा। यह वयस्कों को अपनी उम्र सत्यापित करने का मौका भी देगा यदि उन्हें सिस्टम द्वारा गलत तरीके से चिह्नित किया गया हो।
एंथ्रोपिक, जो 18 वर्ष से कम आयु के उपयोगकर्ताओं को क्लाउड के साथ चैट करने की अनुमति नहीं देता है उपायों को लागू करना इसका उपयोग कम उम्र के उपयोगकर्ताओं के खातों का पता लगाने और उन्हें अक्षम करने के लिए किया जाएगा। यह एक नई प्रणाली विकसित कर रहा है जो “सूक्ष्म वार्तालाप संकेतों का पता लगाने में सक्षम है कि उपयोगकर्ता कम उम्र का हो सकता है” और कहता है कि यह पहले से ही उन उपयोगकर्ताओं को चिह्नित करता है जो चैट के दौरान खुद को नाबालिग के रूप में पहचानते हैं।
एंथ्रोपिक यह भी रेखांकित करता है कि यह कैसे क्लाउड को आत्महत्या और आत्म-नुकसान के बारे में संकेतों का जवाब देने के लिए प्रशिक्षित करता है, साथ ही चाटुकारिता को कम करने में इसकी प्रगति भी करता है, जो हानिकारक सोच की पुष्टि कर सकता है। कंपनी का कहना है कि उसके नवीनतम मॉडल “आज तक के सभी मॉडलों में सबसे कम चापलूस हैं”, हाइकु 4.5 ने सबसे अच्छा प्रदर्शन किया है, क्योंकि इसने 37 प्रतिशत समय में अपने चापलूस व्यवहार को सही किया है।
एंथ्रोपिक कहते हैं, “अंकित मूल्य पर, यह मूल्यांकन दिखाता है कि हमारे सभी मॉडलों में सुधार की महत्वपूर्ण गुंजाइश है।” “हमें लगता है कि परिणाम एक ओर आदर्श गर्मजोशी या मित्रता और दूसरी ओर चाटुकारिता के बीच एक व्यापार-बंद को दर्शाते हैं।”
अपडेट, 18 दिसंबर: स्पष्ट किया गया कि एंथ्रोपिक 18 वर्ष से कम आयु के उपयोगकर्ताओं को क्लाउड का उपयोग करने की अनुमति नहीं देता है।