कनाडा के गोपनीयता आयुक्त फिलिप ड्यूफ्रेस्ने ने अपनी जांच के निष्कर्ष में कहा कि एलन मस्क के स्वामित्व वाला Grok AI चैटबॉट उपयोगकर्ताओं को बिना सहमति के यौन डीपफेक इमेज बनाने और फैलाने की अनुमति देता है, जो देश के संघीय गोपनीयता कानून का उल्लंघन है। जांच से पता चला कि 2026 की शुरुआत में सिर्फ 10 दिनों में दुनिया भर में Grok के माध्यम से 18 लाख से अधिक यौन डीपफेक तस्वीरें बनाई गईं। हालांकि X प्लेटफॉर्म और xAI कंपनी ने नए सुरक्षा उपाय शुरू किए हैं, लेकिन ड्यूफ्रेस्ने का कहना है कि "समस्या अभी हल नहीं हुई है" और ये कंपनियां अब भी कानून के उल्लंघन में काम कर रही हैं।
यह फैसला ब्रिटेन और कैलिफोर्निया में संबंधित जांचों के बाद लिया गया है। कनाडा के गोपनीयता आयुक्त ने जोर दिया कि Grok द्वारा इमेज जनरेशन में करीब 50% की कमी आई है, लेकिन "अब भी बड़ी मात्रा में ऐसी उल्लंघनकारी सामग्री मौजूद है"। इस बीच, कनाडा की लिबरल पार्टी की सरकार ने बुधवार को 'सुरक्षित सोशल मीडिया विधेयक' पेश किया, जिसमें ऑनलाइन प्लेटफॉर्म को 24 घंटे के भीतर AI डीपफेक सहित अश्लील सामग्री हटाने और ऐसी तस्वीरें साझा करने को आपराधिक अपराध बनाने का प्रावधान है। ड्यूफ्रेस्ने का कहना है कि X और xAI ने आंशिक अनुपालन का वादा तो किया, लेकिन नियामक को यह विश्वास नहीं दिला पाए कि समस्या पूरी तरह हल हो गई है।
