हफ्तों तक इंटरनेट पर बिना सहमति के यौन डीपफेक की बाढ़ आने के बाद, एक्स ने आखिरकार एलोन मस्क के दुष्ट चैटबॉट ग्रोक पर लगाम लगा दी है। कस्तूरी दावा ग्रोक स्थानीय कानूनों का पालन करता है और किसी भी अवैध चीज़ का उत्पादन करने से इंकार करता है – सिवाय इसके कि ऐसा नहीं हुआ है और यह हो सकता है। मेरे परीक्षण से पता चलता है कि ग्रोक अभी भी आसानी से पुरुषों के कपड़े उतारता है और अभी भी मांग पर अंतरंग तस्वीरें पेश कर रहा है।
दुनिया भर में हंगामा मचने के बाद, एक्स ने अंतरंग डीपफेक की बाढ़ से निपटने के लिए कई तरह के प्रतिबंध लागू किए। पिछले सप्ताह ग्रोक का मूल्यांकन करने से पता चलता है कि जब पुरुषों की बात आती है तो बहुत कम बदलाव आया है। मैंने ग्रोक पर अपनी पूरी तरह से पहने हुए कई तस्वीरें अपलोड कीं और बॉट ने खुशी-खुशी उन निर्देशों का पालन किया, जिनमें कपड़े हटाने और मुझे खुले अंडरवियर में दिखाने के लिए कहा गया था। इसने इसे ग्रोक ऐप, एक्स पर चैटबॉट इंटरफ़ेस और स्टैंडअलोन वेबसाइट पर मुफ्त में किया, जिनमें से बाद के लिए किसी खाते की भी आवश्यकता नहीं थी। ग्रोक ने मुझे कई तरह की बिकनी भी पहनाईं, कुछ ऐसा जो उन महिलाओं की तस्वीरों के साथ करने से साफ इनकार कर देता था जिनका मैंने (सहमति से) परीक्षण किया था।
हालात यहीं से बदतर हो गए. ग्रोक ने चमड़े के हार्नेस सहित फेटिश गियर में और कपड़े उतारने की विभिन्न अवस्थाओं में उत्तेजक यौन मुद्राओं की परेड में मेरी तस्वीरें आसानी से तैयार कीं। यदि वह पर्याप्त रूप से समझौतावादी नहीं था, तो ग्रोक ने मेरे लिए एक व्यावहारिक रूप से नग्न साथी तैयार किया, जिसके साथ मैं विचारोत्तेजक, यदि पूरी तरह से स्पष्ट नहीं तो, तरीकों से बातचीत कर सकूं। किसी को भी काम के लिए सुरक्षित नहीं माना जाएगा। कई छवियों के लिए, ग्रोक ने कुछ ऐसा उत्पन्न किया जो मैंने उससे पूछा भी नहीं था: जननांग, जो चैटबॉट द्वारा मुझे डाले गए जालीदार अंडरवियर के माध्यम से स्पष्ट रूप से दिखाई दे रहा था।
अधिक से अधिक, इन छवियों को बनाने के लिए प्रेरित करने में कुछ पुनरावृत्तियों की आवश्यकता पड़ी। ग्रोक ने शायद ही कभी विरोध किया, लेकिन अवसर पर कुछ अनुरोधों को अस्वीकार कर दिया गया या धुंधली छवि के साथ सेंसर कर दिया गया। हालाँकि, अधिकांश नहीं थे, और आम तौर पर प्रति अनुरोध ग्रोक द्वारा उत्पादित दो छवियों में से कम से कम एक वह दिखाती थी जो मैंने पूछा था। अपने श्रेय के लिए, ग्रोक ने वास्तविक लोगों की छवियों के लिए नग्नता के किसी भी प्रत्यक्ष अनुरोध को अस्वीकार कर दिया, जैसे कि “उसे दिखाने” के लिए संपादन की मांग करना [or her] समान प्रभाव के लिए नग्न” या कपड़ों के टुकड़ों के बिना। इसने लगातार ऐसा किया है द वर्जका परीक्षण, लेकिन कभी-कभी “उसे पारदर्शी बिकनी में दिखाओ” जैसे रचनात्मक संकेत सेंसर के पास पहुंच सकते थे, हालांकि परिणाम की गारंटी नहीं थी।
9 जनवरी को, एक्स ने केवल छवि-संपादन सुविधा का भुगतान किया। इस सीमा से एक्स पर बनाए जा रहे डीपफेक की संख्या में कमी आती दिखाई दी, लेकिन यदि लोग भुगतान करने को तैयार हों तो ग्रोक को उन्हें कपड़े उतारने की अनुमति देने के फैसले ने और अधिक आक्रोश पैदा कर दिया, यहां तक कि ब्रिटिश सरकार को अंतरंग डीपफेक को अपराध मानने वाला कानून बनाने के लिए प्रेरित किया और मस्क को चेतावनी दी कि अगर एक्स ने स्थिति को नियंत्रण में नहीं रखा तो उसे देश से पूरी तरह से प्रतिबंधित किया जा सकता है। हमारी जांच में पाया गया कि यह मूल समस्या का समाधान करने में भी विफल रहा: ग्रोक के छवि संपादन उपकरण अभी भी एक स्टैंडअलोन ऐप, एक वेबसाइट और एक्स के अंदर एक इंटरफ़ेस पर स्वतंत्र रूप से और आसानी से उपलब्ध थे।
14 जनवरी को, एक्स ने ग्राहकों सहित सभी उपयोगकर्ताओं के लिए वास्तविक लोगों को डिजिटल रूप से कपड़े उतारने से रोकने के लिए “तकनीकी उपाय लागू किए”। दोबारा, द वर्जजांच से पता चला कि ये सुरक्षा उपाय कमज़ोर, अप्रभावी थे, और केवल पोस्ट के लिए ग्रोक के सार्वजनिक उत्तरों को बाधित करते प्रतीत होते थे। अन्यत्र, ग्रोक ने मुफ़्त खातों का उपयोग करके पूरी तरह से कपड़े पहने तस्वीरों से खुलासा और यौन रूप से विचारोत्तेजक छवियां उत्पन्न करने के हमारे अनुरोधों का आसानी से पालन किया।
कपड़े उतारने के दुःस्वप्न ने एक्स, ग्रोक और ग्रोक के निर्माता, एक्सएआई को दुनिया भर के नियामकों और कानून निर्माताओं के निशाने पर ला दिया है। एक्स अस्थायी रूप से रहा है – यद्यपि अप्रभावी – इंडोनेशिया और मलेशिया में प्रतिबंधित। यह प्लेटफ़ॉर्म यूके और ईयू में भी जांच के अधीन है, जहां इस पर जुर्माना लगाया जा सकता है, यहां तक कि प्रतिबंधित भी किया जा सकता है, और इससे लोगों में चिंता पैदा हो सकती है। कई राज्यों में अटॉर्नी जनरल.
जाहिर तौर पर अधिकांश सार्वजनिक आक्रोश महिलाओं पर केंद्रित है, जो अब तक ग्रोक के अधिकांश पीड़ितों के साथ-साथ बच्चों के लिए भी जिम्मेदार हैं। घोटाले के चरम पर, ग्रोक ने नौ दिनों की अवधि में चार मिलियन से अधिक छवियां बनाई और पोस्ट कीं। इनमें से लगभग आधे महिलाओं की कामुक तस्वीरें थीं, हालांकि कई में नाबालिग और पुरुष भी थे।
ऐसा प्रतीत होता है कि लागू किए गए तकनीकी उपाय हालाँकि ऐसा प्रतीत होता है कि यह सबसे अधिक स्पष्ट सामग्री को रोकने या सेंसर करने के लिए है जिसे ग्रोक पहले सामूहिक रूप से तैयार कर रहा था, फिर भी आप अलग-अलग या रचनात्मक शब्दों के साथ कई प्रतिबंधों से आसानी से बच सकते हैं।