एक्स के ग्रोक चैटबॉट ने महिलाओं को निर्वस्त्र करने के उपयोगकर्ताओं के अनुरोधों को स्वीकार करना बंद नहीं किया है और, कुछ मामलों में, स्पष्ट नाबालिग एआई-जनित बिकनी के लिए। कुछ रिपोर्टों के अनुसार, एआई-जनरेटेड छवियों की बाढ़ में अधिक चरम सामग्री शामिल है जो संभावित रूप से गैर-सहमति वाली अंतरंग इमेजरी (एनसीआईआई) और बाल यौन शोषण सामग्री (सीएसएएम) के खिलाफ कानूनों का उल्लंघन करती है। यहां तक कि अमेरिका में, जहां एक्स के मालिक एलोन मस्क के सरकार के साथ घनिष्ठ संबंध हैं, कुछ विधायक मंच की आलोचना कर रहे हैं – हालांकि स्पष्ट कार्रवाई अभी भी कम है।
कई अंतरराष्ट्रीय नियामकों ने ग्रोक के कपड़े उतारने की होड़ के खिलाफ आवाज उठाई है। यूके संचार नियामक ऑफकॉम एक बयान में कहा इसने “यूके में उपयोगकर्ताओं की सुरक्षा के लिए अपने कानूनी कर्तव्यों का पालन करने के लिए क्या कदम उठाए हैं, यह समझने के लिए एक्स और एक्सएआई के साथ तत्काल संपर्क किया था” और जल्दी से “संभावित अनुपालन मुद्दों का आकलन करेगा जो जांच की आवश्यकता है।” यूरोपीय आयोग के प्रवक्ता थॉमस रेग्नियर एक संवाददाता सम्मेलन में कहा ग्रोक के आउटपुट “अवैध” और “भयानक” थे। भारत का आईटी मंत्रालय नंगा करने की धमकी दी उपयोगकर्ता-जनित पोस्ट के लिए X की कानूनी प्रतिरक्षा, जब तक कि वह अवैध सामग्री को रोकने के लिए की गई कार्रवाइयों का विवरण तुरंत प्रस्तुत न कर दे। नियामकों से ऑस्ट्रेलिया, ब्राज़ील, फ़्रांस और मलेशिया भी विकास पर नज़र रख रहे हैं।
अमेरिका में टेक प्लेटफ़ॉर्म को संचार शालीनता अधिनियम की धारा 230 के तहत अपने उपयोगकर्ताओं के पोस्ट के लिए दायित्व से काफी हद तक संरक्षित किया गया है, लेकिन यहां तक कि 1996 के कानून के सह-लेखक, सेन रॉन विडेन (डी-ओआर) ने कहा कि नियम को किसी कंपनी के अपने एआई आउटपुट की रक्षा नहीं करनी चाहिए। “यह देखते हुए कि ट्रम्प प्रशासन पीडोफाइल की रक्षा के लिए आगे बढ़ रहा है, राज्यों को मस्क और एक्स को जवाबदेह ठहराने के लिए कदम उठाना चाहिए,” वेडेन ब्लूस्काई पर लिखा.
ग्रोक द्वारा बनाई गई कुछ छवियां टेक इट डाउन एक्ट का भी उल्लंघन कर सकती हैं। उस कानून के तहत, डीओजे के पास अब उन व्यक्तियों के खिलाफ आपराधिक दंड लगाने का प्रयास करने का अधिकार है जो एआई-सुविधा वाले एनसीआईआई को भी प्रकाशित करते हैं, जबकि जो प्लेटफ़ॉर्म ध्वजांकित सामग्री को तुरंत हटाने में विफल रहते हैं, उन्हें मई के मध्य से संघीय व्यापार आयोग द्वारा लक्षित किया जा सकता है।
ग्रोक की बड़े पैमाने पर यौन छवि निर्माण बिल्कुल उसी तरह की चीज़ प्रतीत होती है जिससे निपटने के लिए टेक इट डाउन एक्ट को डिज़ाइन किया गया था। बिल के मुख्य प्रायोजक सीनेटर एमी क्लोबुचर (डी-एमएन) ने कहा, “एक्स को इसे बदलना होगा।” मंच पर लिखा. “यदि वे ऐसा नहीं करते हैं, तो मेरे द्विदलीय टेक इट डाउन एक्ट के लिए जल्द ही उन्हें इसकी आवश्यकता होगी।” क्लोबुचर के सह-प्रायोजक सीनेटर टेड क्रूज़ (आर-टीएक्स) के प्रवक्ता फोबे केलर ने ग्रोक के बारे में रिपोर्टिंग पर टिप्पणी करने से इनकार कर दिया।
कुछ कानून निर्माता नए लक्षित कानून की मांग कर रहे हैं। प्रतिनिधि जेक औचिनक्लॉस (डी-एमए) ने एक बयान में ग्रोक के व्यवहार को “विचित्र” कहा और कहा कि उनका प्रस्ताव, डीपफेक लायबिलिटी एक्ट, “महिलाओं और बच्चों के यौन डीपफेक की मेजबानी को मस्क और के लिए एक बोर्ड-स्तरीय समस्या बना देगा। [Meta CEO Mark] जुकरबर्ग।”
लेकिन अन्य कानून निर्माता इस बात पर जोर देते हैं कि लागू करने वालों के पास ग्रोक के कार्यों से निपटने के लिए पहले से ही उपकरण हैं। “महान्यायवादी [Pam] बोंडी के पास एक सरल विकल्प है: राष्ट्रपति के बिग टेक मित्रों की रक्षा करना या अमेरिका के युवा लोगों की रक्षा करना, सेन रिचर्ड ब्लूमेंथल (डी-सीटी) ने एक बयान में कहा।
“यह अस्वीकार्य है कि संघीय सरकार द्वारा उपयोग किया जाने वाला सॉफ़्टवेयर ऐसे जघन्य और अवैध उपयोग के प्रति संवेदनशील है”
प्रतिनिधि मेडेलीन डीन (डी-पीए), जिन्होंने टेक इट डाउन एक्ट के हाउस संस्करण का नेतृत्व करने में मदद की, ने एक बयान में कहा कि वह “रिपोर्टों से भयभीत और निराश हैं कि एलोन मस्क के ग्रोक चैटबॉट ने इंटरनेट पर महिलाओं और बच्चों की एआई-जनित स्पष्ट छवियों की बाढ़ ला दी है।” डीन ने बॉन्डी और एफटीसी के अध्यक्ष एंड्रयू फर्ग्यूसन से “हमारे बच्चों की सुरक्षा के लिए ग्रोक और एक्सएआई में तत्काल जांच शुरू करने, यह सुनिश्चित करने के लिए कि ऐसा दोबारा न हो, और इन अपराधियों को न्याय के कटघरे में लाने” का आह्वान किया। टेक इट डाउन एक्ट पर हस्ताक्षर करने के लगभग आठ महीने बाद, उन्होंने कहा, “यह अस्वीकार्य है कि संघीय सरकार द्वारा उपयोग किया जाने वाला सॉफ़्टवेयर इस तरह के जघन्य और अवैध उपयोग के लिए असुरक्षित है।”
लेकिन टेक इट डाउन एक्ट के आलोचक – साइबर नागरिक अधिकार पहल (सीसीआरआई) सहितजिसने लंबे समय से एनसीआईआई के प्रसार को अपराधीकरण करने पर जोर दिया है – महीनों से चेतावनी दी है कि डोनाल्ड ट्रम्प का प्रशासन अपने दुश्मनों को दंडित करने के लिए कानून का उपयोग कर सकता है, जबकि मस्क और एक्स जैसे सहयोगियों के खिलाफ इसे लापरवाही से लागू कर सकता है। ट्रम्प का एफटीसी हाल के एक्स विवाद पर काफी हद तक चुप रहा है। एजेंसी ने कोई जवाब नहीं दिया द वर्जटिप्पणी के लिए अनुरोध. हालाँकि, न्याय विभाग की प्रवक्ता नताली बाल्डासरे ने एक बयान में कहा कि यह “एआई-जनित बाल यौन शोषण सामग्री को बेहद गंभीरता से लेता है और सीएसएएम के किसी भी निर्माता या मालिक पर आक्रामक तरीके से मुकदमा चलाएगा।”
अमेरिका में संघीय कार्रवाई के अभाव में, राज्य के अटॉर्नी जनरल अभी भी उन कार्यों के लिए एक्स की जांच कर सकते हैं जो उनके अपने निवासियों को नुकसान पहुंचा सकते हैं। यह अभी तक सार्वजनिक नहीं है कि ऐसी कोई जांच चल रही है या नहीं। कैलिफोर्निया के न्याय विभाग की प्रवक्ता एलिसा पेरेज़ किसी भी संभावित या चल रही जांच के अस्तित्व की पुष्टि या खंडन नहीं करेंगी, लेकिन उन्होंने लिखा है कि अटॉर्नी जनरल रॉब बोंटा “चैटबॉट्स के नुकसान के बारे में गहराई से चिंतित हैं और एआई सुरक्षा सुनिश्चित करने के लिए प्रतिबद्ध हैं, खासकर जब कैलिफोर्निया के बच्चों की सुरक्षा की बात आती है।” उन्होंने कहा कि बोंटा इस तरह के प्रयासों में “बहुत शामिल” रहा है, जिसमें “शामिल” भी शामिल है राज्य विधान का समर्थन करना इसका लक्ष्य एआई साथी चैटबॉट्स से और एआई कंपनियों के साथ सीधे जुड़कर बच्चों की रक्षा करना है।” कैलिफोर्निया कानून मना करता है एआई-जनित चित्रण सहित नाबालिगों को यौन आचरण में लिप्त या उसकी नकल करते हुए दिखाने वाली सामग्री का उत्पादन और वितरण।
न्यू मैक्सिको के अटॉर्नी जनरल राउल टोरेज़, जिनके कार्यालय ने प्रमुख तकनीकी कंपनियों के खिलाफ कई प्रमुख मुकदमे दायर किए हैं, कार्रवाई के लिए एक और संभावित उम्मीदवार हैं। टोरेज़ ने एक बयान में कहा, “हम ग्रोक सहित विभिन्न एआई प्लेटफार्मों की हालिया रिपोर्टों से बेहद चिंतित हैं, जिनमें यह सुनिश्चित करने के लिए बुनियादी सुरक्षा उपायों का अभाव है कि उनके उपयोगकर्ता दूसरों, विशेषकर बच्चों की गरिमा और गोपनीयता अधिकारों का उल्लंघन नहीं करते हैं।” “सोशल मीडिया की तरह, हम इस क्षेत्र पर आक्रामक तरीके से पुलिस लगाने का इरादा रखेंगे और इन उत्पादों से होने वाले नुकसान के लिए प्रौद्योगिकी कंपनियों को जिम्मेदार ठहराने के लिए हमारे पास उपलब्ध हर उपकरण का उपयोग करेंगे।” न्यूयॉर्क अटॉर्नी जनरल लेटिटिया जेम्स के प्रवक्ता ज्योफ बर्गन ने कहा कि उनका कार्यालय भी ग्रोक घटनाओं की समीक्षा कर रहा है।
“एलोन मस्क अपने प्लेटफ़ॉर्म द्वारा पीड़ित किए जा रहे लोगों पर हंस रहे हैं”
उसी समय, ट्रम्प प्रशासन और कांग्रेस में कुछ रिपब्लिकन सहयोगी हाल के कार्यकारी आदेश और प्रतिबंधों को कानून में संहिताबद्ध करने के कई असफल प्रयासों के माध्यम से राज्यों को एआई के उपयोग को विनियमित करने वाले अपने स्वयं के कानूनों को लागू करने से रोकने पर जोर दे रहे हैं। हाउस एनर्जी एंड कॉमर्स कमेटी के रैंकिंग सदस्य फ्रैंक पैलोन (डी-एनजे) ने एक बयान में कहा, “जबकि व्हाइट हाउस राज्यों को एआई को विनियमित करने से रोकने के लिए रिपब्लिकन के साथ काम करता है, ग्रोक महिलाओं और बच्चों की कामुक छवियों का मंथन कर रहा है।” “आइए स्पष्ट रहें, एलोन मस्क अपने मंच से लोगों को पीड़ित किए जाने पर हंस रहे हैं और राष्ट्रपति ट्रम्प ने उन्हें रात्रिभोज पर आमंत्रित करने का फैसला किया। पीड़ितों की रक्षा करना स्पष्ट रूप से उनमें से किसी के लिए प्राथमिकता नहीं है।”
कम से कम एक रिपब्लिकन ने एक्स की छवियों के प्रसार की आलोचना की, हालांकि उसके समाधान में ट्रम्प के एआई कार्यकारी आदेश को कानून बनाना शामिल है। किड्स ऑनलाइन सेफ्टी एक्ट के सह-लेखक सीनेटर मार्शा ब्लैकबर्न (आर-टीएन) ने एक बयान में कहा, “किसी भी एआई चैटबॉट को इस हानिकारक सामग्री को वितरित नहीं करना चाहिए, और कंपनी को अपनी निगरानी मजबूत करने के लिए तत्काल कार्रवाई करनी चाहिए और यह सुनिश्चित करना चाहिए कि ग्रोक इन छवियों को बनाकर अपनी सेवा की शर्तों का उल्लंघन नहीं कर सके।” ब्लैकबर्न ने अपने स्वयं के कानून का पूर्वावलोकन किया है, उनका कहना है कि एआई कानून के लिए एक संघीय ढांचा बनाकर ट्रम्प के कार्यकारी आदेश को संहिताबद्ध किया जाएगा, ट्रम्प अमेरिका एआई अधिनियम कहा जाता है. “यही कारण है कि कांग्रेस को ऑनलाइन बच्चों की सुरक्षा करने वाला कानून पारित करने के लिए कार्रवाई करनी चाहिए।”