एक सॉफ़्टवेयर डेवलपर का दावा है कि उसने Google DeepMind के SynthID सिस्टम को रिवर्स-इंजीनियर किया है, जो दिखाता है कि कैसे AI वॉटरमार्क को जेनरेट की गई छवियों से हटाया जा सकता है या मैन्युअल रूप से अन्य कार्यों में डाला जा सकता है। यह दावा, Google के अनुसार, सत्य नहीं है।
डेवलपर, द्वारा जा रहा है उपयोक्तानाम एलोश्डेनीहै GitHub पर अपना काम ओपन-सोर्स किया और अपनी प्रक्रिया का दस्तावेजीकरण किया, जिसमें दावा किया गया कि इसके लिए 200 जेमिनी-जनित छवियों, सिग्नल प्रोसेसिंग और “बहुत अधिक खाली समय” की आवश्यकता थी। थोड़ा सा खरपतवार भी मददगार लग रहा था।
“कोई तंत्रिका नेटवर्क नहीं। कोई स्वामित्व पहुंच नहीं,” एलोश्डेनी ने मीडियम पर कहा. “पता चलता है कि यदि आप बेरोजगार हैं और औसत रूप से पर्याप्त ‘शुद्ध काली’ एआई-जनरेटेड छवियां हैं, तो प्रत्येक गैर-शून्य पिक्सेल वस्तुतः सिर्फ वॉटरमार्क है जो आपको घूर रहा है।”
सिंथआईडी एक लगभग अदृश्य वॉटरमार्किंग प्रणाली है जो Google के एआई टूल द्वारा उत्पन्न सामग्री को टैग करती है, निर्माण के बिंदु पर छवियों के पिक्सेल में खुद को एम्बेड करती है। इसे छवि गुणवत्ता को ख़राब किए बिना हटाना मुश्किल बनाने के लिए डिज़ाइन किया गया था, और Google द्वारा पेश किए गए AI उत्पादों में इसका व्यापक रूप से उपयोग किया जाता है – नैनो बनाना और वीओ 3 जैसे मॉडलों द्वारा पेश की गई हर चीज़ में SynthID वॉटरमार्क होते हैं, और इसे YouTube के AI-जनरेटेड क्रिएटर क्लोन पर भी लागू किया जा रहा है।
एलोशडेनी का कहना है कि उन्होंने सिस्टम को “वास्तव में अच्छी इंजीनियरिंग” पाया और अभी भी परीक्षणों में सिंथआईडी को पूरी तरह से हटाने में असमर्थ थे, इसके बजाय वे भ्रमित करने वाले सिंथआईडी डिकोडर्स पर निर्भर थे जो वॉटरमार्क वाली छवियों को पढ़ने की कोशिश करते हैं।
Google के वॉटरमार्क के अंतर्निहित तंत्र को क्रैक करने के लिए उपयोग की जाने वाली प्रक्रिया गैर-डेवलपर्स के लिए तकनीकी रूप से जटिल है। यदि आप उत्सुक हैं तो आप एलोशडेनी के मीडियम पेज पर पूरा विवरण पढ़ सकते हैं (जो स्पष्ट रूप से उस समय लिखा गया था जब एलोशडेनी “उच्च” थी), लेकिन यहां एक सरलीकृत व्याख्या है:
एलोशडेनी कहते हैं, “तथ्य यह है कि मैं जो सबसे अच्छा कर सकता था वह यह था कि डिकोडर को इतना भ्रमित कर दिया जाए कि वह हार मान ले – न कि वास्तव में चीज़ को हटा दे – यह इस बारे में बहुत कुछ कहता है कि इसे कितनी अच्छी तरह डिज़ाइन किया गया था।” “यह सही नहीं है। लेकिन यह अटूट होने की कोशिश नहीं कर रहा है। यह दुरुपयोग की लागत को इतना अधिक बढ़ाने की कोशिश कर रहा है कि ज्यादातर लोग परेशान न हों।”
मैंने एलोशडेनी के प्रोजेक्ट को आज़माया नहीं है जो Google के SynthID वॉटरमार्किंग सिस्टम को रिवर्स-इंजीनियर करता है, इसलिए मैं इसकी पुष्टि नहीं कर सकता कि यह वास्तव में कितना प्रभावी है। जैसा कि कहा गया है, इस समय, ऐसा प्रतीत नहीं होता है कि सिंथआईडी है रिवर्स-इंजीनियरिंग की गई है, कम से कम उस बिंदु तक नहीं जहां स्क्रिप्ट-किडीज़ एक टूल डाउनलोड कर सकते हैं और एआई डिटेक्शन सिस्टम को चकमा देने के लिए Google के वॉटरमार्क को हटा सकते हैं (या जोड़ सकते हैं)। Google को यह भी विश्वास नहीं है कि वह अलोश्डेनी के दावों पर खरा उतरता है।
गूगल के प्रवक्ता मायरियम खान ने बताया, “यह कहना गलत है कि यह टूल सिंथआईडी वॉटरमार्क को व्यवस्थित रूप से हटा सकता है।” द वर्ज. “सिंथआईडी एआई-जनरेटेड सामग्री के लिए एक मजबूत, प्रभावी वॉटरमार्किंग टूल है।”