नवी दिल्ली: अभिनेत्री रश्मिका मंदान्ना हिने आज तिचा डीपफेक व्हिडिओ तयार करणाऱ्या व्यक्तीला अटक केल्याबद्दल दिल्ली पोलिसांचे आभार व्यक्त केले. “जबाबदारांना पकडल्याबद्दल धन्यवाद,” तिने तिच्या इंस्टाग्राम स्टोरीवर पोस्ट केले.
“ज्या समुदायाने मला प्रेमाने, समर्थनाने आलिंगन दिले आणि माझे संरक्षण केले त्यांच्याबद्दल खरोखर कृतज्ञ आहे,” तिची नोट वाचली.
‘अ‍ॅनिमल’ चित्रपटाच्या स्टारने तिच्या चाहत्यांना एक सल्ला देखील दिला: “मुली आणि मुले – जर तुमची प्रतिमा तुमच्या संमतीशिवाय कुठेही वापरली किंवा मॉर्फ केली गेली असेल तर ते चुकीचे आहे!”
“आणि मला आशा आहे की हे एक स्मरणपत्र आहे की तुमच्याभोवती असे लोक आहेत जे तुम्हाला पाठिंबा देतील आणि कारवाई केली जाईल,” सुश्री मंदान्ना पुढे म्हणाल्या.
इमानी नवीन या २४ वर्षीय डिजिटल मार्केटरला आज आंध्र प्रदेशमधून अटक करण्यात आली. चौकशीदरम्यान, त्याने सांगितले की त्याने इंस्टाग्रामवर अधिक फॉलोअर्स मिळविण्यासाठी हा व्हिडिओ तयार केला आहे, असे दिल्ली पोलिसांनी सांगितले.
अभिनेत्याचा चाहता असल्याचा दावा करणार्‍या नवीनला जेव्हा समजले की या व्हिडिओची देशभरात चर्चा सुरू आहे, तेव्हा त्याने प्रसिद्ध व्यक्तींचे ट्विट देखील पाहिले, तेव्हा तो घाबरला आणि त्याने हँडलवरून पोस्ट हटवली.
आर्टिफिशियल इंटेलिजन्सच्या मदतीने बनवलेला रश्मिका मदनाचा डीपफेक व्हिडिओ गेल्या वर्षी नोव्हेंबरमध्ये सोशल मीडियावर व्हायरल झाला होता. अभिनेत्याने व्हिडिओचे वर्णन कसे केले ते “अत्यंत भयानक” होते.
मूळ व्हिडिओ ब्रिटिश-भारतीय प्रभावशाली झारा पटेलने तिच्या Instagram खात्यावर 9 ऑक्टोबर 2023 रोजी अपलोड केला होता आणि नंतर मंदान्नाचा डीपफेक व्हिडिओ तयार केला गेला आणि विविध सोशल मीडिया प्लॅटफॉर्मवर प्रसारित केला गेला.
डीपफेक व्हिडिओ हे सिंथेटिक माध्यम आहेत ज्यामध्ये विद्यमान प्रतिमा किंवा व्हिडिओमधील व्यक्ती दुसऱ्याच्या प्रतिमेने बदलली जाते.
पोलिसांनी सांगितले की, तपासादरम्यान कथित डीपफेक व्हिडिओंशी संबंधित 500 हून अधिक सोशल मीडिया अकाउंट्सचे विश्लेषण करण्यात आले.
एआय-संचालित चुकीची माहिती, दुर्भावनापूर्ण किंवा अन्यथा, इंटरनेटवर पूर आल्याने चिंता वाढत आहे. यामध्ये डीपफेकचा समावेश आहे, जे संपादित प्रतिमा किंवा व्हिडिओ आहेत. सुश्री मंदान्ना व्यतिरिक्त, कतरिना कैफ, आलिया भट्ट आणि प्रियांका चोप्रा जोन्स यासारखे इतर अनेक कलाकार डीपफेक्सचे लक्ष्य बनले.
सरकारने अलीकडे Instagram आणि X सारख्या सोशल मीडिया प्लॅटफॉर्मला सल्ला दिला आहे की वापरकर्त्यांनी IT कायद्याच्या नियमांचे “निषिद्ध सामग्रीचे उल्लंघन करू नये” याची खात्री करावी. “चुकीची माहिती इंटरनेट वापरकर्त्यांच्या सुरक्षेला गंभीर धोका दर्शवते आणि डीपफेक, जे AI-शक्तीवर चालणारी चुकीची माहिती आहेत, धोका आणखी वाढवतात…” आयटी मंत्री राजीव चंद्रशेखर म्हणाले.
