स्कूल के बच्चे ने AI का किया गलत इस्तेमाल, बनाया क्लास की लड़कियों के डीपफेक फोटोज

नई दिल्‍ली (New Delhi) । AI का इस्तेमाल बड़ी संख्या में लोग कर रहे हैं, लेकिन कुछ लोग इसका गलत इस्तेमाल भी कर रहे हैं. ऐसा ही एक मामला अमेरिका (America) के न्यू जर्सी (new Jersey) में देखने को मिला था. वैसे तो ये मामला पुराना है, लेकिन इन दिनों वापस में चर्चा में है. चर्चा की वजह स्कूल (School) में उन बच्चों (children) का वापस आना है.

दरअसल, पीड़िता की मां का कहना है कि इस मामले में मुख्य आरोपियों को कड़ी सजा नहीं मिली. रिपोर्ट्स की मानें तो मामले में सभी आरोपी अभी भी स्कूल आ रहे हैं और उनकी बच्ची के साथ क्लास शेयर कर रहे हैं. इस मामले में फोर्ब्स को स्कूल ने बच्चों की पहचान का हवाला देते हुए जानकारी देने से मना कर दिया है.

क्या है पूरा मामला?
मामला पिछले साल 20 अक्टूबर का है, जब 14 साल की पीड़िता को इस मामले की जानकारी हुई. पीड़िता को पता चला कि उसके किसी क्लासमेट ने ऑनलाइन सर्विस का इस्तेमाल करके उसकी आपत्तिजनक तस्वीरें बनाई हैं. बाद में जानकारी हुई कि इस मामले में क्लास की कई लड़कियों की डीपफेक फोटोज बनाई गई थी.

इन फोटोज को Snapchat पर शेयर किया गया था, जहां मैसेज ऑटो-डिलीट हो जाता है. इसमें क्लास के ही कुछ लड़के शामिल थे. पीड़िता की मां का कहना है कि इस मामले को स्कूल ने सही से हैंडल नहीं किया है. बता दें कि ये कोई पहला मामला नहीं है, जिसमें AI का गलत इस्तेमाल किया गया है.

AI का हो रहा गलत इस्तेमाल
ऐसे कई मामले अब तक सामने आ चुके हैं, जिसमें AI का इस्तेमाल लोगों को ठगने और डीपफेक वीडियो बनाने में किया जा रहा है. भारत में एक्ट्रेस रश्मिका मंदाना का डीपफेक वीडियो काफी ज्यादा वायरल हुआ था, जिस पर पुलिस ने कार्रवाई भी की थी. इसके अलावा कई दूसरे लोगों के Deepfake वीडियो और फोटोज भी सामने आए थे.

AI का इस्तेमाल लोगों को बदनाम करने में ही नहीं, बल्कि ठगी में भी किया जा रहा है. AI वॉयस क्लोन की मदद लोगों को ठगा जा रहा है. इस तरह के कई मामले पिछले दिनों देखने को मिलेगा. इसके अलावा डीपफेक वीडियो की मदद लोगों को पुलिस के नाम पर डराया जा रहा है.

आने वाले दिनों में डीपफेक एक बड़ी समस्या बनाकर सामने आ सकता है. इसकी वजह किसी के भी वीडियो पर कोई भी ऑडियो लगा पाना है. इस टेक्नोलॉजी का इस्तेमाल लोगों को छवि खराब करने में किया जा सकता है. खासकर चुनाव के वक्त पर इनका गलत इस्तेमाल देखने को मिल सकता है.