एआई का बड़े स्तर पर मिसयूज, तेजी से दर्ज किए जा रहे हैं डीफफेक के केस, महिलाओं व बच्चों की फोटोज से कपड़े हटाकर या सेक्शुअली इमेजेस बनाईं
नई दिल्ली। आर्टिफिशनल इंटेलिजेंस यानी एआई के मिसयूज के बड़े और सनसनीखेज मामले सामने आ रहे हैं। कुछ मामलों में एक ही परिवार की महिला के साथ बच्चियों की नॉन-कंसेंशुअल डीपफेक इमेज बना डाली है। जिसमें महिलाएं पूरी तरह से नंगी कर अपने ही परिवार की बच्चियों के साथ सेक्स करते देखे जा सकती हैं। यह घटना AI के एथिकल इस्तेमाल, रेगुलेशन और प्राइवेसी प्रोटेक्शन पर बड़े सवाल खड़े करती है। क्या AI को इतनी आजादी मिलनी चाहिए? या सख्त नियमों की जरूरत है। मलेशिया सरीखे देश ने अपने यहां एआई पर सख्त पहरा बैठा दिया है।
बेहद शर्मसार व डरावनी दुनिया
पिछले दिनों जो कुछ एक्स पर एआई रिलेटिड देखा गया है उसने सभ्य समाज के होश उड़ा दिए हैं। आर्टिफिशियल इंटेलिजेंस (AI) की दुनिया में हाल ही में एक बेहद डरावनी और शर्मनाक विवाद सामने आया है, जो Grok AI (Elon Musk की xAI कंपनी द्वारा बनाया गया चैटबॉट) से जुड़ा है। यह मामला नॉन-कंसेंशुअल डीपफेक इमेज और सेक्शुअल कंटेंट जनरेशन का है, यह वाकई शर्मसार करने वाला है।
ये हुआ था साल के शुरू में
इस साल के शुरू में यह मामला सामने आया था एक्स प्लेटफॉम पर ग्रॉक एआई की मार्फत किसी ने वास्तविक लोगों की जिनमें सेलिब्रिटिज और मलिाओं को भी शामिल कर लिया गया, उन्हें छोटी नासमझ बच्चियों के साथ सेक्स करते हुए परोस दिया गया। इनमें बच्चों की फोटोज से कपड़े हटाकर या सेक्शुअली एक्सप्लिसिट इमेजेस बनाईं। यह मामला कानूनी रूप से प्राइवेसी का बड़े पैमाने पर उल्लंघन से जुड़ा हुआ है। इसको कानूनन सेक्शुअल हैरासमेंट व डीपफेक क्राइम माना गया। माना जा रहा है कि इसी के चलते मलेशिया व इंडोनिशिया जैसी कंट्री ने ग्रॉक को ब्लॉक किया
इंडिया में बड़े स्तर पर
इंडिया में इस तरह के मामले बड़े स्तर पर सामने आए हैं। हालांकि शिकायतों के बाद एक्स ने बड़ी संख्या में पोस्ट ब्लॉक व डिलीट भी की हैं। यह पूरा मामला ग्रॉक एआई व एक्स के दुरूपयोग से जुड़ा है। लोगों को ऐसा नहीं करना चाहिए। ऐसा कमीनी मानसिकता वाले लोग ही कर रहे हैं। इन्हें कभी भी सैक्सुअल सेटिफेक्शन नहीं मिलता। इनमें महिलाओं की भी संख्या की आशंका जतायी जा रही है। Grok की इस “अनड्रेसिंग” फीचर ने क्राइसिस ऑफ इंप्युनिटी पैदा कर दी है, जहां AI का इस्तेमाल महिलाओं और बच्चों के खिलाफ हो रहा है। क्नोलॉजी बिना सेफगार्ड्स के इतनी शक्तिशाली हो गई है कि रियल लाइफ हैरासमेंट आसान हो गया।
