टेलर स्विफ्ट की अश्लील डीपफेक तस्वीरें ऑनलाइन प्रसारित हो रही हैं, जिससे गायक सबसे ज्यादा प्रभावित हो रहा है उस तकनीकी संकट का प्रसिद्ध शिकार प्लेटफ़ॉर्म और दुरुपयोग-विरोधी समूहों ने इसे ठीक करने के लिए संघर्ष किया है। स्विफ्ट की यौन रूप से स्पष्ट और अपमानजनक नकली तस्वीरें इस सप्ताह सोशल मीडिया प्लेटफॉर्म एक्स पर व्यापक रूप से प्रसारित होने लगीं।
“स्विफ्टीज़” का उनका उत्साही प्रशंसक तेजी से एकजुट हो गया, और पहले ट्विटर के नाम से जाने जाने वाले प्लेटफॉर्म पर एक जवाबी हमला शुरू किया और पॉप स्टार की अधिक सकारात्मक छवियों के साथ इसे भरने के लिए #ProtectTaylorSwift हैशटैग चलाया। कुछ ने कहा कि वे उन खातों की रिपोर्ट कर रहे थे जो डीपफेक साझा कर रहे थे। कथित तौर पर स्विफ्ट को उसकी तस्वीरें बनाने के लिए जिम्मेदार मंच के खिलाफ कार्रवाई करने के लिए कहा गया है।
डीपफेक का पता लगाने वाले समूह रियलिटी डिफेंडर ने कहा कि उसने स्विफ्ट को चित्रित करने वाली गैर-सहमति वाली अश्लील सामग्री की बाढ़ को ट्रैक किया, विशेष रूप से एक्स पर। कुछ छवियों ने मेटा के स्वामित्व वाले फेसबुक और अन्य सोशल मीडिया प्लेटफार्मों पर भी अपना रास्ता बना लिया।
(दिन की शीर्ष प्रौद्योगिकी खबरों के लिए, सदस्यता लें हमारे टेक न्यूज़लेटर टुडेज़ कैश के लिए)
रियलिटी डिफेंडर के विकास प्रमुख मेसन एलन ने कहा, “दुर्भाग्य से, जब तक उनमें से कुछ को हटा दिया गया, तब तक वे लाखों-करोड़ों उपयोगकर्ताओं तक फैल गए।” शोधकर्ताओं को कम से कम कुछ दर्जन अद्वितीय एआई-जनरेटेड छवियां मिलीं। सबसे व्यापक रूप से साझा किए गए फुटबॉल से संबंधित थे, जिसमें एक चित्रित या खून से सना हुआ स्विफ्ट दिखाया गया था जो उस पर आपत्ति जताता था और कुछ मामलों में उसके गहरे नकली व्यक्तित्व को हिंसक नुकसान पहुंचाता था।
शोधकर्ताओं ने कहा है कि पिछले कुछ वर्षों में स्पष्ट डीपफेक की संख्या बढ़ी है, क्योंकि ऐसी छवियों को बनाने के लिए इस्तेमाल की जाने वाली तकनीक अधिक सुलभ और उपयोग में आसान हो गई है। 2019 में, एआई फर्म डीपट्रेस लैब्स द्वारा जारी एक रिपोर्ट से पता चला कि इन छवियों को महिलाओं के खिलाफ बड़े पैमाने पर हथियार बनाया गया था। इसमें कहा गया है कि ज्यादातर पीड़ित हॉलीवुड अभिनेता और दक्षिण कोरियाई के-पॉप गायक थे।
यह भी पढ़ें:भारत में डीपफेक और जेनरेटिव एआई को विनियमित करना | व्याख्या की
रोलिंग स्टोन के एक वरिष्ठ लेखक ब्रिटनी स्पैनोस, जो न्यूयॉर्क विश्वविद्यालय में स्विफ्ट पर एक पाठ्यक्रम पढ़ाते हैं, का कहना है कि स्विफ्ट के प्रशंसक अपने कलाकार के समर्थन में तुरंत जुट जाते हैं, खासकर वे जो गलत काम की स्थितियों में अपने प्रशंसकों को बहुत गंभीरता से लेते हैं।
उन्होंने कहा, “अगर वह वास्तव में इसे अदालत में ले जाती है तो यह बहुत बड़ी बात हो सकती है।” स्पैनोस का कहना है कि डीप फेक पोर्नोग्राफ़ी का मुद्दा स्विफ्ट के अतीत में हुए अन्य मुद्दों से मेल खाता है, जो एक रेडियो स्टेशन डीजे के खिलाफ उसके 2017 के मुकदमे की ओर इशारा करता है जिसने कथित तौर पर उसके साथ छेड़छाड़ की थी; मीटू आंदोलन के बीच जूरी सदस्यों ने स्विफ्ट को हर्जाने के रूप में $1 का पुरस्कार दिया, यह राशि उसके वकील डगलस बाल्ड्रिज ने “एक प्रतीकात्मक डॉलर, जिसका मूल्य इस स्थिति में सभी महिलाओं के लिए अथाह है” कहा। (उसके बाद 1 डॉलर का मुकदमा एक चलन बन गया, जैसे ग्वेनेथ पाल्ट्रो का 2023 में एक स्कीयर के ख़िलाफ़ जवाबी मुक़दमा।)
स्विफ्ट की नकली छवियों पर टिप्पणी के लिए पहुंचने पर, एक्स ने एसोसिएटेड प्रेस को अपने सुरक्षा खाते से एक पोस्ट करने का निर्देश दिया जिसमें कहा गया था कि कंपनी अपने प्लेटफॉर्म पर गैर-सहमति वाली नग्न छवियों को साझा करने पर सख्ती से रोक लगाती है। 2022 में एलोन मस्क के मंच संभालने के बाद से कंपनी ने अपनी सामग्री-मॉडरेशन टीमों में भी तेजी से कटौती की है।
कंपनी ने शुक्रवार सुबह एक्स पोस्ट में लिखा, “हमारी टीमें सक्रिय रूप से सभी पहचानी गई छवियों को हटा रही हैं और उन्हें पोस्ट करने के लिए जिम्मेदार खातों के खिलाफ उचित कार्रवाई कर रही हैं।” “हम यह सुनिश्चित करने के लिए स्थिति की बारीकी से निगरानी कर रहे हैं कि किसी भी अन्य उल्लंघन को तुरंत संबोधित किया जाए और सामग्री को हटा दिया जाए।”
इस बीच, मेटा ने एक बयान में कहा कि वह “विभिन्न इंटरनेट सेवाओं पर दिखाई देने वाली सामग्री” की कड़ी निंदा करता है और इसे हटाने के लिए काम किया है। कंपनी ने कहा, “हम इस उल्लंघनकारी सामग्री के लिए अपने प्लेटफॉर्म की निगरानी करना जारी रखेंगे और आवश्यकतानुसार उचित कार्रवाई करेंगे।”
यह भी पढ़ें:सरकार ने डीपफेक पर निर्देश क्यों जारी किया है? | व्याख्या की
एलन ने कहा कि शोधकर्ता 90% आश्वस्त हैं कि छवियां प्रसार मॉडल द्वारा बनाई गई थीं, जो एक प्रकार का जेनरेटिव आर्टिफिशियल इंटेलिजेंस मॉडल है जो लिखित संकेतों से नई और फोटोरिअलिस्टिक छवियां उत्पन्न कर सकता है। सबसे व्यापक रूप से ज्ञात स्टेबल डिफ्यूजन, मिडजर्नी और ओपनएआई के DALL-E हैं। एलन के समूह ने उत्पत्ति का निर्धारण करने का प्रयास नहीं किया।
ओपनएआई ने कहा कि उसके पास हानिकारक सामग्री के निर्माण को सीमित करने के लिए सुरक्षा उपाय हैं और “टेलर स्विफ्ट सहित किसी सार्वजनिक व्यक्ति का नाम मांगने वाले अनुरोधों को अस्वीकार कर दिया गया है।”
माइक्रोसॉफ्ट, जो आंशिक रूप से DALL-E पर आधारित एक इमेज-जनरेटर प्रदान करता है, ने शुक्रवार को कहा कि वह इस बात की जांच कर रहा है कि क्या उसके टूल का दुरुपयोग किया गया था। अन्य वाणिज्यिक एआई सेवाओं की तरह, इसमें कहा गया है कि यह “वयस्क या गैर-सहमति वाली अंतरंग सामग्री की अनुमति नहीं देता है, और हमारी नीतियों के खिलाफ जाने वाली सामग्री का उत्पादन करने के किसी भी बार-बार प्रयास के परिणामस्वरूप सेवा तक पहुंच का नुकसान हो सकता है।”
स्विफ्ट डीपफेक के बारे में पूछा गया एनबीसी रात्रिकालीन समाचारमाइक्रोसॉफ्ट के सीईओ सत्या नडेला ने मंगलवार को प्रसारित एक साक्षात्कार में मेजबान लेस्टर होल्ट से कहा कि एआई सुरक्षा उपाय स्थापित करने में अभी भी बहुत कुछ किया जाना बाकी है और “इस पर तेजी से आगे बढ़ना हमारे लिए जरूरी है।”
नडेला ने कहा, “यह बिल्कुल चिंताजनक और भयानक है, और इसलिए हां, हमें कार्रवाई करनी होगी।” मिडजर्नी, ओपनएआई और स्टेबल डिफ्यूजन-निर्माता स्टेबिलिटी एआई ने टिप्पणी के अनुरोधों का तुरंत जवाब नहीं दिया।
संघीय कानून निर्माता, जिन्होंने अधिक प्रतिबंध लगाने या डीपफेक पोर्न को अपराध घोषित करने के लिए विधेयक पेश किया है, ने संकेत दिया कि घटना से पता चलता है कि अमेरिका को बेहतर सुरक्षा लागू करने की आवश्यकता क्यों है।
“वर्षों से, महिलाएं बिना सहमति के डीपफेक का शिकार रही हैं, इसलिए टेलर स्विफ्ट के साथ जो हुआ वह ज्यादातर लोगों की समझ से कहीं अधिक सामान्य है,” अमेरिकी प्रतिनिधि यवेटे डी. क्लार्क ने कहा, जो न्यूयॉर्क के एक डेमोक्रेट हैं जिन्होंने कानून पेश किया है जिसके लिए रचनाकारों की आवश्यकता होगी डीपफेक सामग्री को डिजिटल रूप से वॉटरमार्क करें। क्लार्क ने कहा, “जेनरेटिव-एआई कम लागत पर बेहतर डीपफेक बनाने में मदद कर रहा है।”
अमेरिकी प्रतिनिधि जो मोरेल, एक अन्य न्यूयॉर्क डेमोक्रेट जो एक विधेयक को आगे बढ़ा रहे हैं जो डीपफेक पोर्न को ऑनलाइन साझा करने को अपराध की श्रेणी में लाएगा, ने कहा कि स्विफ्ट के साथ जो हुआ वह परेशान करने वाला था और पूरे इंटरनेट पर अधिक से अधिक व्यापक हो गया है।
मोरेले ने एक बयान में कहा, “तस्वीरें नकली हो सकती हैं, लेकिन उनका प्रभाव बहुत वास्तविक है। हमारी बढ़ती डिजिटल दुनिया में हर दिन महिलाओं के साथ डीपफेक हो रहे हैं, और अब उन पर रोक लगाने का समय आ गया है।”