यौन बुत सामग्री. माचिस कैसे जलाएं. घर में चाकू कहां मिलेंगे.
ये सभी वार्तालाप के विषय हैं जिन्हें हाल ही में याद किए गए बच्चों के खिलौने – OpenAI के GPT-4o जैसे AI चैटबॉट के ऊपर निर्मित – बच्चों तक पहुंचाने में सक्षम हैं। मंगलवार को, अमेरिकी सीनेटर मार्शा ब्लैकबर्न (आर-टेन) और रिचर्ड ब्लूमेंथल (डी-कॉन) एक पत्र भेजा कंपनियों को उनकी चिंताओं के बारे में बताएं – जिसमें सवालों की एक सूची और कंपनियों के लिए 6 जनवरी, 2026 तक जवाब देने की समय सीमा शामिल है।
सीनेटरों ने लिखा, “इनमें से कई खिलौने इंटरैक्टिव खेल की पेशकश नहीं कर रहे हैं, बल्कि बच्चों को अनुचित सामग्री, गोपनीयता जोखिम और जोड़-तोड़ की रणनीति के संपर्क में ला रहे हैं।” “ये सैद्धांतिक रूप से सबसे खराब स्थिति नहीं हैं; ये वास्तविक दुनिया के परीक्षण के माध्यम से उजागर की गई दस्तावेजी विफलताएं हैं, और इन्हें संबोधित किया जाना चाहिए… इन चैटबॉट्स ने बच्चों को खुद को नुकसान पहुंचाने और आत्महत्या करने के लिए प्रोत्साहित किया है, और अब आपकी कंपनी उन्हें सबसे कम उम्र के बच्चों पर थोप रही है जिनके पास इस खतरे को पहचानने की सबसे कम क्षमता है।”
एआई-सक्षम बच्चों के खिलौने हाल ही में उनके संभावित असुरक्षित और स्पष्ट वार्तालाप विषयों पर रिपोर्टों की एक श्रृंखला के बाद सुर्खियों में रहे हैं, जिनमें से कुछ खिलौनों में निर्मित चैटबॉट्स ने स्वयं उठाए थे। पिछले महीने, सिंगापुर स्थित खिलौना कंपनी फ़ोलोटॉय ने अस्थायी रूप से निलंबित बिक्री यूएस पीआईआरजी एजुकेशन फंड के शोधकर्ताओं के बाद इसके एआई टेडी बियर, “कुम्मा”। मिला इसने सेक्स पोजीशन और रोलप्ले परिदृश्यों पर सलाह दी। (कंपनी ने आंतरिक सुरक्षा ऑडिट करने के बाद खिलौने को बाजार में वापस लाया और शोधकर्ताओं ने कहा कि यह बेहतर व्यवहार करता है।)
और इस सप्ताहशोधकर्ताओं ने निष्कर्ष प्रकाशित किया कि एलिलो के स्मार्ट एआई बनी ने उपयोगकर्ताओं के साथ स्पष्ट यौन विषयों पर चर्चा की। उन्होंने यह भी कहा कि फोलोटॉय टेडी बियर, एलिलो के स्मार्ट एआई बनी, क्यूरियो के ग्रोक-स्टफ्ड रॉकेट और मिको के मिको 3 रोबोट का परीक्षण करते समय, सभी खिलौनों ने “हमें बताया कि घर में प्लास्टिक बैग, माचिस और चाकू जैसी संभावित खतरनाक वस्तुएं कहां मिलेंगी।”
शोधकर्ताओं ने कहा कि उन्होंने “पांच में से कम से कम चार खिलौनों” का परीक्षण किया दिसंबर रिपोर्ट “ऐसा प्रतीत होता है कि यह कुछ हद तक OpenAI के AI मॉडल के कुछ संस्करण पर निर्भर है।”
पत्र में एक और मुख्य चिंता निगरानी और डेटा संग्रह है। सीनेटरों ने लिखा है कि ऐसे खिलौने अक्सर “बच्चों के बारे में डेटा के संग्रह पर निर्भर करते हैं, या तो खिलौने को पंजीकृत करते समय माता-पिता द्वारा प्रदान किया जाता है या अंतर्निहित कैमरा और चेहरे की पहचान क्षमताओं या रिकॉर्डिंग के माध्यम से एकत्र किया जाता है,” और बच्चे अक्सर अनजाने में “व्यक्तिगत जानकारी साझा करते हैं”, जो विशेष चिंताएं पैदा कर सकता है जब कंपनियां अपने द्वारा एकत्र किए गए डेटा को संग्रहीत और बेचती हैं। नवीनतम यूएस पीआईआरजी एजुकेशन फंड रिपोर्ट में, शोधकर्ताओं ने लिखा है कि क्यूरियो की गोपनीयता नीति “3 तकनीकी कंपनियों को सूचीबद्ध करती है जो बच्चों का डेटा एकत्र कर सकती हैं: किड्स वेब सर्विसेज (केडब्ल्यूएस), एज़्योर कॉग्निटिव सर्विसेज और ओपनएआई,” लेकिन मिको की गोपनीयता नीति अस्पष्ट रूप से बताती है कि कंपनी तीसरे पक्ष के गेम डेवलपर्स, बिजनेस पार्टनर्स, सेवा प्रदाताओं, सहयोगियों और विज्ञापन भागीदारों के साथ डेटा साझा कर सकती है।
मैटल, लिटिल लर्नर्स टॉयज, मिको, क्यूरियो, फोलोटॉय और कीई रोबोट को पत्र भेजे गए। एनबीसी न्यूज. (मैटल ने जून में ओपनएआई के साथ साझेदारी की, लेकिन रिपोर्टों के बाद, यह सोमवार को कहा यह अब 2025 में ओपनएआई की तकनीक द्वारा संचालित खिलौना जारी नहीं करेगा।) सीनेटर एआई-संचालित खिलौनों को अनुचित प्रतिक्रिया उत्पन्न करने से रोकने के लिए कंपनियों के विशिष्ट सुरक्षा उपायों पर विवरण का अनुरोध कर रहे हैं; क्या कंपनी ने स्वतंत्र तृतीय-पक्ष परीक्षण किया है (और परिणाम क्या आए); क्या कंपनी बच्चों के संभावित मनोवैज्ञानिक, विकासात्मक और भावनात्मक जोखिमों पर आंतरिक समीक्षा करती है; खिलौने बच्चों से किस प्रकार का डेटा एकत्र करते हैं (और उद्देश्य); और क्या खिलौनों में “ऐसी विशेषताएं शामिल हैं जो बच्चों पर बातचीत जारी रखने के लिए दबाव डालती हैं या उन्हें बातचीत से अलग होने से हतोत्साहित करती हैं।”
सीनेटरों ने लिखा, “खिलौना बनाने वालों का बचपन पर एक अनोखा और गहरा प्रभाव होता है – और उस प्रभाव के साथ जिम्मेदारी भी आती है।” “आपकी कंपनी को बच्चों की सुरक्षा के बजाय लाभ को नहीं चुनना चाहिए, बिग टेक द्वारा चुना गया एक विकल्प जिसने हमारे देश के बच्चों को तबाह कर दिया है।”