डीपफेकवर आता पूर्ण लगाम! AI कॉन्टेंटच्या नियमांवर सरकारची मोठी तयारी (Photo Credit- X)
AI आणि डीपफेक कॉन्टेंटच्या संदर्भात सरकार अधिक कठोर भूमिका घेत आहे. माहिती तंत्रज्ञान मंत्रालयाने (IT Ministry) AI-निर्मित (AI-Generated) कॉन्टेंटबद्दल एक नवीन प्रस्ताव सादर केला आहे. AI कॉन्टेंटमुळे पसरणाऱ्या अफवांवर नियंत्रण ठेवण्यासाठी सरकार नवीन नियम तयार करण्याच्या तयारीत आहे. विशेषतः Facebook, X आणि YouTube सारख्या सोशल मीडिया प्लॅटफॉर्म्सद्वारे पसरणाऱ्या अफवांना आळा घालण्याची योजना आखली जात आहे. AI-निर्मित कॉन्टेंटवर अधिक चांगल्या प्रकारे लक्ष ठेवण्यासाठी सोशल मीडिया प्लॅटफॉर्म्ससाठी नवीन नियम आणले जात आहेत.
माहिती तंत्रज्ञान मंत्रालयाने आपल्या प्रस्तावात म्हटले आहे की सोशल मीडिया प्लॅटफॉर्म्सवर बनावट ऑडिओ, व्हिडीओ आणि खोटी छायाचित्रे वेगाने पसरतात. यातून दिसून येते की AI चा वापर करून किती वास्तववादी आणि दिशाभूल करणारा कॉन्टेंट तयार केला जात आहे. निवडणुकीच्या वेळी एखाद्याच्या प्रतिमेला हानी पोहोचवण्यासाठी, गैरव्यवहार करण्यासाठी आणि आर्थिक फसवणूक करण्यासाठी हे कॉन्टेंट चुकीची माहिती पसरवण्यासाठी ‘शस्त्र’ म्हणून वापरले जाऊ शकतात.
🚨 BIG! Modi govt notifies KEY amendment to IT Rules 2021. Now, only Joint Secretary-level or DIG-rank officers can direct social media platforms to REMOVE unlawful content. Platforms with 50L+ users must label AI-generated/deepfake content and VERIFY authenticity. pic.twitter.com/nlRnBnimTV — Megh Updates 🚨™ (@MeghUpdates) October 23, 2025
AI संबंधित नियमांनुसार, IT मंत्रालयाने मसुदा तयार केला आहे आणि त्यावर ६ नोव्हेंबरपर्यंत संबंधितांकडून अभिप्राय मागवले आहेत. AI कॉन्टेंटसंबंधी नियम कडक केल्यामुळे सोशल मीडिया प्लॅटफॉर्म्सची जबाबदारी वाढेल. विशेषतः ज्या प्लॅटफॉर्म्सचे ५० लाख (५ मिलियन) किंवा त्याहून अधिक वापरकर्ते आहेत, त्यांची जबाबदारी निश्चित केली जाईल. या प्लॅटफॉर्म्सना अशा AI-निर्मित बनावट कॉन्टेंटची सत्यता पडताळून त्यांना फ्लॅग करणे आवश्यक असेल.
याव्यतिरिक्त, नवीन नियमांच्या मसुद्यात AI द्वारे तयार केलेल्या कॉन्टेंटचे लेबलिंग करण्यापासून ते AI कॉन्टेंट क्रिएटर्सवर देखील देखरेख ठेवली जाईल. कोणत्याही AI-निर्मित व्हिडीओ किंवा ऑडिओ क्लिपमध्ये किमान १० टक्के भाग खरा असावा. तसेच, असा कॉन्टेंट अपलोड करण्यापूर्वी वापरकर्त्याचे प्रमाणीकरण अनिवार्य केले जावे. याव्यतिरिक्त, AI कॉन्टेंट सोशल मीडियावर अपलोड करण्यापूर्वी तांत्रिक मर्यादांचा विचार करणे आवश्यक आहे.
AI-निर्मित कॉन्टेंटमुळे डीपफेक व्हिडीओजचा वापर खूप वाढला आहे. या संदर्भात, नुकतेच माहिती तंत्रज्ञान मंत्री अश्विनी वैष्णव यांनी संसदेत सांगितले होते की प्रमुख लोकांच्या छायाचित्रांचा चुकीच्या पद्धतीने वापर केला जात आहे, ज्यामुळे लोकांच्या वैयक्तिक जीवनावर परिणाम होतो. त्यांनी पुढे सांगितले की अशा कॉन्टेंटवर कारवाई केली जात आहे. “हे कॉन्टेंट खरे आहेत की AI द्वारे तयार केले गेले आहेत, हे शोधून काढणे हे आमचे उद्दिष्ट आहे,” असे ते म्हणाले.
.png "Videos"){kind=small}
