22.3 C
New York

Deepfake: AI-generated fake nudes के आसपास विनियमन और जागरूकता के लिए तत्काल कॉल

Published:

Deepfakes : गोपनीयता और सहमति के शोषण में एआई की भूमिका

AI के कारण कुछ ऐसे मामले सामने आए है जिससे बेहद ही सरमिदंगी महसूस होती है। दरअसल स्पेन के एक शहर और न्यू जर्सी के एक हाई स्कूल में कुछ मामले सामने आए जिसमें कुछ छात्राओं के अश्लील तस्वीरें वायरल हो रहे हैं जोकि AI की मदद से बनाए गए थे। ये तस्वीर Artificial Intelligence सॉफ्टवेयर के द्वारा निकाले गए जिसका नाम ‘undress‘ है। उसके बाद ये तस्वीरे उनके साथियों के फोन पर वितरित की गई। इसके साथ ही एक स्कूल के छात्र ने अपनी महिला सहपाठी की Deepfake अश्लील तस्वीरें बनाई और Artificial Intelligence को यूज करने के लिए पूरे अटलांटिक में सुर्खिया बटोरीं।

सोशल मीडिया एनालिटिक्स फर्म ग्राफिका की एक रिपोर्ट के अनुसार, सितंबर 2023 में इस घटना में एक खतरनाक वृद्धि देखी गई, जिसमें आश्चर्यजनक रूप से 24 मिलियन उपयोगकर्ताओं ने नकली नग्न वेबसाइटों का दौरा किया। मासूम मनोरंजन केंद्रों के रूप में प्रच्छन्न ये प्लेटफ़ॉर्म, AI की कमजोरियों का फायदा उठाते हैं, गोपनीयता, सहमति और दुरुपयोग की संभावना के बारे में गहरी चिंताएँ बढ़ाते हैं, खासकर महिलाओं और नाबालिगों के खिलाफ।

AI टूल की सर्वव्यापकता ने हर किसी को एक संभावित लक्ष्य में बदल दिया है, जिससे deepfake AI पोर्न का खतरा बढ़ गया है।

कैसे Deepfake AI Nudes एक आकर्षक उद्यम बनें?

Deepfake AI, Deepfakes

इन वेबसाइटों द्वारा अपनाई गई मुद्रीकरण रणनीति इस समस्या को और जटिल बना रही है। कई लोग फ्रीमियम मॉडल का उपयोग करते हैं, जो उपयोगकर्ताओं को उम्र और शरीर के अनुकूलन जैसी उन्नत सुविधाओं तक पहुंच के लिए अतिरिक्त क्रेडिट खरीदने के लिए लुभाने से पहले मुफ्त में बुनियादी सामग्री तैयार करने की अनुमति देता है। पेपैल जैसे मुख्यधारा प्लेटफार्मों और यहां तक कि कॉइनबेस जैसे क्रिप्टोकुरेंसी प्लेटफार्मों के माध्यम से भुगतान की सुविधा प्रदान की जाती है, जिससे एआई-जनित स्पष्ट सामग्री में अवैध व्यापार एक आकर्षक उद्यम बन जाता है।

वेबसाइटें, जाहिरा तौर पर “मनोरंजन उद्देश्यों के लिए बनाई गई हैं और किसी का अपमान करने के उद्देश्य से नहीं,” बढ़ती चिंताओं के सामने निर्दोष होने का दावा करती हैं। महलके के अनुसार, “90% डीपफेक सामग्री पोर्नोग्राफ़ी के बारे में है, और 99% समय, इसमें महिलाएं शामिल होती हैं; यह काफी चिंताजनक है कि महिलाएं इस तरह की सामग्री का विषय कैसे होती हैं।”

Google और Bing जैसे खोज इंजन इन स्पष्ट सामग्री पृष्ठों को अनुक्रमित करने और फ़िल्टर न करने में उनकी भूमिका के लिए जांच के दायरे में आते हैं। प्रौद्योगिकी से जुड़े स्पष्ट नैतिक मुद्दों के बावजूद, प्रमुख खोज इंजनों ने अभी तक इन साइटों तक पहुंच को प्रतिबंधित करने के लिए निर्णायक कार्रवाई नहीं की है। कानूनी विशेषज्ञ अभिषेक मल्होत्रा सुझाव देते हैं कि हालाँकि सूचना प्रौद्योगिकी अधिनियम के तहत निष्कासन के प्रावधान मौजूद हैं, लेकिन प्रवर्तन चुनौतीपूर्ण है, उन्होंने कहा, “Google अब ऐसा करने में झिझक सकता है; या तो वे ऐसा करेंगे, या वे कहेंगे, ‘जाओ और अदालत से आदेश ले आओ।’

Deepfake , AI, Deepfakes

Deepfake AI nudes का मानवता पर असर:

परेशान करने वाली वास्तविकता यह है कि ये एआई-जनित (AI Generated) नकली न्यूड न केवल गोपनीयता का उल्लंघन करते हैं बल्कि अतिरिक्त सेवाओं के माध्यम से मुद्रीकरण के लिए उपयोगकर्ताओं को प्राप्त करने के इरादे से डिजिटल उत्पादों के रूप में भी काम करते हैं। कुछ वेबसाइटें अपनी सेवाओं को “गैर-सहमति वाली अंतरंग इमेजरी” के रूप में लेबल करने तक जाती हैं, जो उन व्यक्तियों की गरिमा और गोपनीयता के प्रति घोर उपेक्षा को प्रकट करती हैं जिनकी photos के साथ छेड़छाड़ की गई है।

मुद्दा पूरी तरह नया नहीं है; AI-Generated Images के उदय से पहले नकली नग्नताएं मौजूद थीं। हालाँकि, जो बात वर्तमान परिदृश्य को अलग करती है, वह है प्रौद्योगिकी का लोकतंत्रीकरण, जिससे नाबालिगों को भी इन उपकरणों तक पहुंचने की अनुमति मिलती है, जिसे वे हानिरहित मनोरंजन मानते हैं। उन्हें यह नहीं पता कि उनकी कृतियों का उपयोग संभावित रूप से दुर्भावनापूर्ण उद्देश्यों, इस प्रक्रिया में किसी को धमकाने या परेशान करने के लिए किया जा सकता है।

सोशल मीडिया प्लेटफ़ॉर्म:

सोशल मीडिया प्लेटफ़ॉर्म द्वारा पर्याप्त उपायों की कमी समस्या को और बढ़ा देती है। ये प्लेटफ़ॉर्म, जो अक्सर AI-Generated सामग्री बनाने के लिए उपयोग की जाने वाली छवियों के स्रोत के रूप में काम करते हैं, ऐसी स्पष्ट सामग्री को चिह्नित करने और हटाने के लिए मजबूत तकनीकों का अभाव है। परिणाम दुरुपयोग का एक चक्र है जिसमें वही प्लेटफ़ॉर्म जो मूल छवियों को होस्ट करते हैं, अनजाने में डीपफेक सामग्री के प्रसार के लिए माध्यम बन जाते हैं।

कार्रवाई के लिए तत्काल आह्वान संबंधित व्यक्तियों, कानूनी विशेषज्ञों और मनोवैज्ञानिकों की आवाज से गूंजता है। महलके इस बात पर जोर देते हैं कि समर्पित साइटें इन डीपफेक वेबसाइटों में से 98% के लिए जिम्मेदार हैं, यह सुझाव देते हुए कि सरकारें उनकी गतिविधियों पर अंकुश लगाने के लिए तंत्र स्थापित कर सकती हैं। उनका सुझाव है कि स्कूल इस नई तकनीक के खतरों के बारे में जागरूकता पैदा करने, छात्रों को उनके कार्यों के संभावित परिणामों के बारे में शिक्षित करने में महत्वपूर्ण भूमिका निभा सकते हैं।

एक सुरक्षित डिजिटल क्षेत्र की ओर: विनियमन, जागरूकता और तकनीकी सुरक्षा उपायों के लिए प्रस्ताव:

यह स्पष्ट है कि इस खतरे से प्रभावी ढंग से निपटने के लिए एक व्यापक दृष्टिकोण की आवश्यकता है। कानूनी विशेषज्ञ AI के विनियमन और ऐसे कानूनों के निर्माण की मांग कर रहे हैं जो विशेष रूप से उन व्यक्तियों की रक्षा करते हैं जिनकी छवियों का उपयोग बिना सहमति के ऑनलाइन साझा की गई स्पष्ट यौन सामग्री बनाने के लिए किया जाता है। उनका तर्क है कि एआई टूल के रचनाकारों और प्रमुख तकनीकी कंपनियों दोनों पर अपने उत्पादों और प्लेटफार्मों की जिम्मेदारी लेने की जिम्मेदारी है।

जबकि AI प्रौद्योगिकी के लाभ निर्विवाद हैं, इसकी पहुंच का गहरा पक्ष ध्यान देने की मांग करता है। सहमति के बिना स्पष्ट सामग्री बनाने में एआई के बड़े पैमाने पर दुरुपयोग को रोकने के लिए दुनिया को मजबूत कानूनों, नैतिक प्रथाओं और तकनीकी हस्तक्षेप की तत्काल आवश्यकता के प्रति जागना चाहिए। एआई-जनित सामग्री को प्रामाणिक सामग्री से अलग करने के लिए लेबल और वॉटरमार्क करने का प्रस्ताव और प्रमुख तकनीकी कंपनियों द्वारा डीपफेक डिटेक्टरों को शामिल करने पर जोर देना सही दिशा में महत्वपूर्ण कदमों का प्रतिनिधित्व करता है।

AI-Generated नकली नग्न वस्तुओं का उदय केवल एक तकनीकी चुनौती नहीं है, बल्कि एक गहरा सामाजिक मुद्दा है जो तत्काल ध्यान देने और सामूहिक कार्रवाई की मांग करता है। व्यक्तियों की गरिमा, गोपनीयता और भलाई दांव पर है, और यह सरकारों, तकनीकी कंपनियों, शिक्षकों और बड़े पैमाने पर समाज पर निर्भर है कि वे इस अवसर पर आगे आएं और इस बढ़ते खतरे से डिजिटल परिदृश्य की रक्षा करें।

Rajat Kumar
Rajat Kumarhttps://aiinnovatorz.com
I am Rajat Kumar. I am a content writer from Uttar Pradesh, India. I also have a YouTube channel where I give tutorials on AI tools. I have been working as a video and content creator for 2 years.

Related articles

Recent articles

spot_img