कनाडा का ऐतिहासिक फैसला: Grok AI द्वारा बनाए गए अश्लील डीपफेक ने तोड़ा गोपनीयता कानून

कनाडा के संघीय गोपनीयता आयुक्त फिलिप डुफ्रेस्ने (Philippe Dufresne) ने हाल ही में अपनी जांच के नतीजे जारी करते हुए कहा कि Elon Musk की AI कंपनी xAI द्वारा विकसित चैटबॉट Grok के जरिए बनाए गए अश्लील डीपफेक कंटेंट ने कनाडा के व्यक्तिगत सूचना संरक्षण और इलेक्ट्रॉनिक दस्तावेज़ अधिनियम (PIPEDA) का उल्लंघन किया है। आयुक्त ने बताया कि X प्लेटफॉर्म और xAI ने उपयोगकर्ताओं को Grok का उपयोग करके बिना सहमति के अश्लील इमेज बनाने और फैलाने की अनुमति दी, जो संघीय गोपनीयता कानून का लगातार उल्लंघन है।

जांच से पता चला कि इस साल की शुरुआत में केवल 10 दिनों के भीतर, दुनिया भर में Grok के जरिए 18 लाख से अधिक अश्लील डीपफेक तस्वीरें बनाई गईं। डुफ्रेस्ने ने कहा कि जांच के बाद संबंधित कंपनियों ने कुछ सुरक्षा उपाय जोड़े, लेकिन समस्या अभी हल नहीं हुई है, "उन्होंने कुछ अनुपालन वादे किए, लेकिन मुझे नहीं लगता कि यह समस्या सुलझ गई है।" यह जांच इस साल जनवरी में शुरू हुई थी, और उसी समय ब्रिटेन और कैलिफोर्निया में भी इसी तरह की जांच शुरू की गई थी।

फैसला जारी होने के उसी दिन, कनाडा की लिबरल पार्टी सरकार ने सुरक्षित सोशल मीडिया विधेयक (Safe Social Media Act) पेश किया, जिसमें ऑनलाइन प्लेटफॉर्म को AI डीपफेक सहित अश्लील कंटेंट को 24 घंटे के भीतर हटाने का आदेश दिया गया है, और ऐसी छवियों को फैलाने को आपराधिक बनाने की योजना है। यह फैसला सोशल मीडिया और AI कंपनियों पर दबाव बढ़ाता है कि वे तकनीकी और संस्थागत स्तर पर डीपफेक के प्रसार को रोकें।

समीक्षा: तकनीकी अनुपालन अब कोई विकल्प नहीं रह गया है। AI द्वारा बनाई गई अश्लील सामग्री दुनिया भर में गोपनीयता और सुरक्षा की सीमाओं को चुनौती दे रही है। Grok का यह मामला विभिन्न देशों में कड़े नियमों की दिशा में एक मील का पत्थर साबित हो सकता है।