AI (Artificial Intelligence) प्रयोग करने वाले लोगों के लिए जहां ये बहुत उपयोगी टूल है, वहीं दूसरी ओर इसके कई नकारात्मक प्रभाव भी हैं। इसलिए सरकार ने एआई (Artificial Intelligence) और डीपफेक कंटेंट को लेकर कड़ा रुख अपनाया है। आईटी मिनिस्ट्री ने एआई-जनरेटेड ऑडियो, वीडियो और इमेज के जरिए फैल रही गलत जानकारियों पर नियंत्रण के लिए नया प्रस्ताव पेश किया है। मंत्रालय का कहना है कि सोशल मीडिया पर तेजी से फैलने वाला फेक कॉन्टेंट समाज और लोकतंत्र दोनों के लिए खतरा बनता जा रहा है।
नए प्रस्ताव के तहत Facebook, X (Twitter) और YouTube जैसे बड़े सोशल मीडिया प्लेटफॉर्म्स की जवाबदेही तय की जाएगी। जिन प्लेटफॉर्म्स के 50 लाख या उससे अधिक यूजर्स हैं, उन्हें एआई-जनरेटेड फर्जी कंटेंट को पहचानने और फ्लैग करने की जिम्मेदारी दी जाएगी। आईटी मिनिस्ट्री ने AI से जुड़े इन नियमों का ड्राफ्ट तैयार कर लिया है। मंत्रालय ने सभी स्टेकहोल्डर्स से 6 नवंबर तक इस पर सुझाव और प्रतिक्रिया मांगी है।
नए नियमों के तहत एआई से तैयार किए गए वीडियो, ऑडियो या फोटो को अपलोड करने से पहले लेबल करना जरूरी होगा, ताकि दर्शक यह जान सकें कि यह एआई द्वारा बनाया गया है। इसके अलावा, यूजर को कंटेंट अपलोड करने से पहले अपनी पहचान वेरीफाई करनी होगी। ड्राफ्ट में यह भी कहा गया है कि किसी भी एआई कंटेंट में कम से कम 10% हिस्सा वास्तविक होना चाहिए।
डीपफेक वीडियो की बढ़ती घटनाओं पर संसद में भी चिंता जताई गई थी। आईटी मंत्री अश्विनी वैष्णव ने हाल ही में कहा था कि प्रमुख हस्तियों की तस्वीरों और आवाज का गलत उपयोग किया जा रहा है, जिससे उनकी निजी जिंदगी प्रभावित हो रही है। उन्होंने यह भी बताया कि सरकार ऐसे फेक कंटेंट की पहचान करने और उन्हें रोकने के लिए ठोस कदम उठा रही है। सरकार का मानना है कि एआई तकनीक के जरिए बनाए जा रहे भ्रामक और रियल-जैसे दिखने वाले कंटेंट का इस्तेमाल चुनावी माहौल में लोगों की छवि खराब करने, वित्तीय धोखाधड़ी और जनभावनाओं को भड़काने के लिए किया जा सकता है। इसलिए ऐसे कंटेंट की निगरानी और नियंत्रण अब प्राथमिकता बन गई है।
