कनाडा का फैसला: Grok AI से बनाए गए अश्लील डीपफेक अवैध

कनाडा के प्राइवेसी कमिश्नर फिलिप ड्यूफ्रेस्ने (Philippe Dufresne) ने 11 जून को अपनी जांच रिपोर्ट जारी की, जिसमें पाया गया कि Elon Musk के स्वामित्व वाली कंपनी xAI का AI चैटबॉट Grok, बिना सहमति के अश्लील डीपफेक (गहरी नकली) इमेज बनाकर कनाडा के संघीय प्राइवेसी कानून का उल्लंघन कर रहा है। जांच में खुलासा हुआ कि इस साल की शुरुआत में सिर्फ 10 दिनों में दुनिया भर में Grok के ज़रिए 18 लाख से अधिक यौन डीपफेक इमेज बनाई गईं। प्राइवेसी कमिश्नर ने कहा कि X प्लेटफॉर्म और xAI ने कुछ सुरक्षा उपाय तो किए हैं, लेकिन समस्या अभी हल नहीं हुई है – उपयोगकर्ता अब भी Grok का इस्तेमाल करके बिना सहमति के अश्लील कंटेंट बना और साझा कर सकते हैं।

यह जांच जनवरी 2026 में शुरू हुई थी, और ब्रिटेन तथा कैलिफोर्निया में चल रही समानांतर जांचों के साथ मिलकर की गई। कनाडा के प्राइवेसी कमिश्नर कार्यालय ने खासतौर पर देखा कि क्या संबंधित कंपनियों ने डीपफेक बनाने के लिए व्यक्तिगत जानकारी इकट्ठा करने, इस्तेमाल करने और खुलासा करने से पहले "वैध सहमति" ली थी। ड्यूफ्रेस्ने ने कहा कि Grok का इमेज जनरेशन टूल लॉन्च के समय पर्याप्त सुरक्षा उपायों और प्राइवेसी पर संभावित नुकसान के आकलन के बिना लाया गया था। X और xAI ने सुधार का वादा किया है, लेकिन कमिश्नर के अनुसार "यह मामला अभी संतोषजनक हल नहीं हुआ है"।

इस बीच, कनाडा की लिबरल पार्टी की सरकार ने 10 जून को सुरक्षित सोशल मीडिया अधिनियम (Safe Social Media Act) पेश किया, जिसमें ऑनलाइन प्लेटफॉर्म को AI-जनित डीपफेक सहित अश्लील कंटेंट को 24 घंटे के अंदर हटाने और ऐसी इमेज साझा करने को आपराधिक अपराध बनाने का प्रस्ताव है। यह फैसला सोशल मीडिया और AI कंपनियों पर डीपफेक समस्या को रोकने का दबाव और बढ़ा देता है। कनाडा की प्राइवेसी नियामक संस्था ने जोर देकर कहा कि टेक कंपनियों को उत्पाद डिजाइन चरण से ही प्राइवेसी सुरक्षा तंत्र शामिल करना चाहिए, बजाय बाद में पैच लगाने के।

टिप्पणी: Grok डीपफेक घटना एक बार फिर चेतावनी देती है कि AI जनरेशन टूल्स में नैतिकता और कानूनी सीमाओं की कमी वैश्विक नियामक प्रतिक्रिया को भड़का रही है। कनाडा का यह फैसला और आगामी विधेयक अन्य क्षेत्रों के लिए एक शासन मॉडल प्रदान कर सकता है, लेकिन असली चुनौती तकनीकी नवाचार और प्राइवेसी संरक्षण के बीच संतुलन बनाना है।