सुप्रीम कोर्ट ने डीपफेक और AI कंटेंट मामले में गुजरात हाईकोर्ट की कार्यवाही पर लगाई रोक

डिजिटल और सोशल मीडिया प्लेटफॉर्म पर तेजी से बढ़ रहे Deepfake और AI-Generated Content को लेकर सुप्रीम कोर्ट ने महत्वपूर्ण हस्तक्षेप किया है। सुप्रीम कोर्ट ने गुजरात हाईकोर्ट के समक्ष चल रही उस कार्यवाही पर रोक लगा दी है, जिसमें सोशल मीडिया और डिजिटल प्लेटफॉर्म पर डीपफेक तथा कृत्रिम बुद्धिमत्ता (AI) से तैयार किए गए कंटेंट को नियंत्रित करने और मौजूदा कानूनी प्रावधानों को प्रभावी ढंग से लागू करने से जुड़े मुद्दों पर विचार किया जा रहा था।

चीफ जस्टिस ऑफ इंडिया (CJI) सूर्यकांत, जस्टिस जॉयमाल्य बागची और जस्टिस वी. मोहना की पीठ ने यह आदेश केंद्र सरकार द्वारा मामले को सुप्रीम कोर्ट में ट्रांसफर किए जाने की मांग वाली याचिका पर नोटिस जारी किए जाने के बाद पारित किया।

डीपफेक और AI कंटेंट को लेकर सुप्रीम कोर्ट में मामला

सुप्रीम कोर्ट के समक्ष उठाया गया मुद्दा डिजिटल प्लेटफॉर्म पर तेजी से फैल रहे ऐसे कंटेंट से संबंधित है, जिसे तकनीक और AI की सहायता से कृत्रिम रूप से तैयार या बदला जा सकता है। डीपफेक तकनीक का इस्तेमाल किसी व्यक्ति की तस्वीर, आवाज या वीडियो को इस तरह बदलने में किया जा सकता है कि वह वास्तविक दिखाई दे।

सुनवाई के दौरान केंद्र सरकार की ओर से पेश वकील ज़ोहेब हुसैन ने अदालत को बताया कि अन्य हाईकोर्ट में भी इसी प्रकार की कार्यवाही चल रही थी और उन मामलों में भी रोक लगाई गई है। संबंधित मामले अब सुप्रीम कोर्ट के समक्ष लंबित हैं।

इस परिस्थिति में सुप्रीम कोर्ट के सामने व्यापक स्तर पर यह सवाल है कि अलग-अलग अदालतों में समान प्रकृति की कार्यवाहियों के बीच एक समान कानूनी दृष्टिकोण कैसे सुनिश्चित किया जाए।

गुजरात हाईकोर्ट ने सोशल मीडिया प्लेटफॉर्म को जारी किए थे नोटिस

इससे पहले अप्रैल में गुजरात हाईकोर्ट ने प्रमुख सोशल मीडिया और डिजिटल प्लेटफॉर्म्स को नोटिस जारी किया था। इनमें X, Meta, Google और Reddit जैसे प्लेटफॉर्म शामिल थे।

हाईकोर्ट ने इन इंटरमीडियरीज से राज्य और केंद्र सरकारों द्वारा दाखिल किए गए हलफनामों के संबंध में जवाब मांगा था। मामला मुख्य रूप से Information Technology (Intermediary Guidelines and Digital Media Ethics Code) Rules, 2021 के तहत निर्धारित ड्यू डिलिजेंस दायित्वों और डिजिटल प्लेटफॉर्म पर गैर-कानूनी कंटेंट के खिलाफ कार्रवाई से जुड़ा था।

हाईकोर्ट के सामने यह सवाल भी था कि मौजूदा कानूनी व्यवस्था को डिजिटल प्लेटफॉर्म पर कितनी प्रभावी और समान रूप से लागू किया जा रहा है।

Intermediaries की जिम्मेदारी पर जोर

मामले में डिजिटल इंटरमीडियरीज की जिम्मेदारी को महत्वपूर्ण मुद्दे के रूप में देखा गया। अदालत ने इस बात पर जोर दिया कि यदि किसी डिजिटल प्लेटफॉर्म पर गैर-कानूनी कंटेंट की जानकारी दी जाती है और कानून के तहत वैध नोटिस जारी किया जाता है, तो संबंधित प्लेटफॉर्म को निर्धारित समय-सीमा के भीतर आवश्यक कार्रवाई करनी चाहिए।

IT Act, 2000 की धारा 79(3)(b) के तहत जारी किए जाने वाले कानूनी नोटिसों पर समयबद्ध कार्रवाई को लेकर भी चर्चा हुई।

इसका उद्देश्य केवल कंटेंट हटाना नहीं, बल्कि कानून लागू करने वाली एजेंसियों और डिजिटल सर्विस प्रोवाइडर्स के बीच बेहतर समन्वय सुनिश्चित करना भी है।

SAHYOG पोर्टल की भूमिका

केंद्र सरकार ने अदालत को बताया कि कानून लागू करने वाली एजेंसियों और इंटरमीडियरीज के बीच बेहतर समन्वय के लिए SAHYOG Portal विकसित किया गया है।

सरकार के अनुसार, यह पोर्टल अक्टूबर 2024 से काम कर रहा है और इसका उद्देश्य अधिकृत Law Enforcement Agencies तथा Intermediaries को एक साझा डिजिटल प्लेटफॉर्म उपलब्ध कराना है, जिससे कानूनी नोटिसों पर तेज, समन्वित और समयबद्ध कार्रवाई की जा सके।

सरकार ने यह भी बताया कि SAHYOG के माध्यम से गैर-कानूनी रूप से सिंथेटिक या AI-generated information को हटाने की प्रक्रिया को अधिक प्रभावी बनाया जा सकता है। आवश्यकता पड़ने पर जांच एजेंसियों को सब्सक्राइबर संबंधी जानकारी, लॉग और अन्य कानूनी साक्ष्य प्राप्त करने में भी सहायता मिल सकती है।

सरकार के अनुसार, संबंधित तारीख तक 524 IT intermediaries को SAHYOG Portal से जोड़ा जा चुका था। इनमें Meta और Google भी शामिल थे। हालांकि, X सहित कुछ अन्य intermediaries के पूरी तरह पोर्टल से जुड़ने या एकीकृत होने की स्थिति अलग थी।

डीपफेक कंटेंट और अभिव्यक्ति की स्वतंत्रता

इस पूरे मामले में एक महत्वपूर्ण संतुलन का प्रश्न भी सामने आता है। डिजिटल प्लेटफॉर्म को नियंत्रित करने के लिए प्रभावी कानूनी व्यवस्था आवश्यक हो सकती है, लेकिन ऐसी व्यवस्था का उद्देश्य वैध और कानूनी अभिव्यक्ति को अनावश्यक रूप से प्रतिबंधित करना नहीं होना चाहिए।

राज्य सरकार की ओर से दाखिल हलफनामे में भी इस बात पर जोर दिया गया कि प्रस्तावित या प्रभावी किए जाने वाले रेगुलेटरी फ्रेमवर्क का उद्देश्य legitimate expression को रोकना नहीं है।

मुख्य उद्देश्य यह सुनिश्चित करना है कि डिजिटल प्लेटफॉर्म का इस्तेमाल गैर-कानूनी कंटेंट तैयार करने, फैलाने या कानून-व्यवस्था तथा सार्वजनिक हित को प्रभावित करने वाले कार्यों के लिए न किया जाए।

AI के बढ़ते इस्तेमाल के बीच कानूनी चुनौती

Artificial Intelligence के बढ़ते इस्तेमाल के साथ डिजिटल कंटेंट की वास्तविकता की पहचान एक बड़ी चुनौती बनती जा रही है। किसी व्यक्ति की आवाज, तस्वीर या वीडियो को AI की मदद से बदलना पहले की तुलना में काफी आसान हो गया है।

ऐसी तकनीक का सकारात्मक इस्तेमाल शिक्षा, मनोरंजन, शोध और रचनात्मक कार्यों में हो सकता है। लेकिन इसका दुरुपयोग फर्जी जानकारी, पहचान के गलत इस्तेमाल, धोखाधड़ी या किसी व्यक्ति की प्रतिष्ठा को प्रभावित करने वाले कंटेंट के लिए भी किया जा सकता है।

इसी कारण Deepfake और AI-generated content को लेकर कानून, तकनीकी व्यवस्था, प्लेटफॉर्म की जिम्मेदारी और नागरिकों के अधिकारों के बीच संतुलन महत्वपूर्ण हो जाता है।

सुप्रीम कोर्ट के हस्तक्षेप का महत्व

गुजरात हाईकोर्ट की कार्यवाही पर रोक लगाए जाने के बाद इस विषय से जुड़े कानूनी प्रश्नों पर सुप्रीम कोर्ट के स्तर पर एक समान दृष्टिकोण विकसित होने की संभावना महत्वपूर्ण हो जाती है।

विशेष रूप से यह देखना होगा कि मौजूदा IT कानूनों और intermediary obligations को AI-generated तथा synthetic content के संदर्भ में किस प्रकार लागू किया जाता है और डिजिटल प्लेटफॉर्म की जिम्मेदारी की सीमा क्या होगी।

यह मामला डिजिटल युग में Freedom of Speech, Privacy, Reputation, Technology Regulation और Law Enforcement के बीच संतुलन से जुड़े व्यापक कानूनी प्रश्नों को भी सामने लाता है।

निष्कर्ष

Deepfake और AI-generated content का विस्तार कानून और न्याय व्यवस्था के सामने नई चुनौतियां प्रस्तुत कर रहा है। ऐसे मामलों में एक स्पष्ट, प्रभावी और संतुलित कानूनी व्यवस्था की आवश्यकता है, ताकि गैर-कानूनी डिजिटल कंटेंट के खिलाफ समय पर कार्रवाई हो सके और साथ ही वैध अभिव्यक्ति तथा नागरिक अधिकारों की सुरक्षा भी बनी रहे।

सुप्रीम कोर्ट में इस विषय से जुड़े मामलों की सुनवाई आगे बढ़ने के साथ यह देखना महत्वपूर्ण होगा कि अदालत डिजिटल प्लेटफॉर्म, Intermediaries, Law Enforcement Agencies और AI-generated content से जुड़े कानूनी दायित्वों को किस प्रकार स्पष्ट करती है।

Advocate Sunil Kumar
Supreme Court of India
Founder & Managing Partner, S. Kumar & Associates
📞 +91 7261069333
📧 [email protected]
More Visit: https://skumarassociate.com/

Disclaimer: यह लेख केवल सामान्य सूचना और शैक्षिक उद्देश्य के लिए है। इसे किसी विशेष मामले में कानूनी सलाह या राय नहीं माना जाना चाहिए। किसी भी मामले का कानूनी परिणाम उसके तथ्यों, लागू कानून और न्यायालय के आदेशों पर निर्भर करता है।