भारत सरकार कृत्रिम बुद्धिमत्ता (एआई) से निर्मित और डीपफेक सामग्री पर अपना नियंत्रण कड़ा कर रही है। सरकार ने सोशल मीडिया प्लेटफॉर्म्स के लिए आपत्तिजनक सामग्री को तीन घंटे के भीतर हटाना अनिवार्य कर दिया है और एआई द्वारा निर्मित सामग्री पर लेबल लगाना भी अनिवार्य कर दिया है। संशोधित सूचना प्रौद्योगिकी (मध्यस्थ दिशानिर्देश और डिजिटल मीडिया आचार संहिता) नियमों के तहत, प्लेटफॉर्म्स को यह सुनिश्चित करना होगा कि एआई उपकरणों का उपयोग करके बनाई गई किसी भी सामग्री पर स्पष्ट और प्रमुख रूप से लेबल लगा हो। साथ ही, उपयोगकर्ताओं को यह बताना होगा कि उनके द्वारा अपलोड की गई सामग्री एआई का उपयोग करके बनाई या संशोधित की गई है या नहीं।
इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने सूचना प्रौद्योगिकी नियम, 2021 के लिए ये नए मसौदा संशोधन तैयार किए हैं। ये नियम केवल लेबल को ही लक्षित नहीं करते, बल्कि प्लेटफार्मों को स्वचालित उपकरणों का उपयोग करने के लिए और भी प्रेरित करते हैं जो अवैध, यौन शोषणकारी या भ्रामक एआई सामग्री को वायरल होने या जनता तक फैलने से पहले ही पकड़ कर रोक सकें। यह उस दुनिया में एक बड़ा बदलाव है जो कंटेंट और उसे फेसबुक, इंस्टाग्राम, यूट्यूब और एक्स (जो पहले ट्विटर हुआ करता था) जैसे विभिन्न सोशल प्लेटफॉर्म पर शेयर करने पर आधारित है। एआई के बारे में पारदर्शिता बरतने के लिए लोगों को प्रोत्साहित करने से पहले, अब सुरक्षा के लिए कानून का दबदबा बढ़ रहा है; अब स्वैच्छिक खुलासा नहीं, बल्कि अनिवार्य पारदर्शिता ही एकमात्र विकल्प है।
सरकार के नए नियम के बारे में
इस तरह, लोगों को यह अनुमान लगाने की आवश्यकता नहीं होगी कि कोई सामग्री वास्तविक है या नहीं।
आपत्तिजनक पोस्ट को चिह्नित किए जाने पर 3 घंटे के भीतर हटा दिया जाना चाहिए।
आगे की सुरक्षा संबंधी जानकारी
सोशल मीडिया प्लेटफॉर्म्स को अब उपयोगकर्ताओं से यह पूछना होगा कि वे जो सामग्री अपलोड कर रहे हैं वह वास्तविक है या कृत्रिम बुद्धिमत्ता (एआई) द्वारा निर्मित। इसके बाद ही वे अपने सत्यापन उपकरणों के माध्यम से इन दावों की जांच करेंगे।
स्वचालित प्रणालियों को अवैध या भ्रामक एआई सामग्री की जांच करनी होगी ताकि उसे प्लेटफॉर्म से हटाया जा सके। और हर तीन महीने में, उपयोगकर्ताओं को इन एआई नियमों का उल्लंघन करने पर लगने वाले दंडों के बारे में याद दिलाया जाएगा, ताकि उन्हें इस बात का पूरा ध्यान रहे।