कनाडा के गोपनीयता आयुक्त फिलिप ड्यूफ्रेस्ने ने गुरुवार को जांच रिपोर्ट जारी कर यह फैसला सुनाया कि एलन मस्क की कंपनी xAI के Grok आर्टिफिशियल इंटेलिजेंस चैटबॉट द्वारा बनाए गए अश्लील डीपफेक चित्रों ने कनाडा के संघीय गोपनीयता कानून का उल्लंघन किया है। जांच में पाया गया कि Grok का इमेज जनरेशन टूल पर्याप्त सुरक्षा उपायों के बिना लॉन्च किया गया था, और इस वर्ष की शुरुआत में सिर्फ 10 दिनों के भीतर दुनिया भर के उपयोगकर्ताओं ने इस टूल का इस्तेमाल कर 18 लाख से अधिक बिना सहमति के बनाए गए अश्लील डीपफेक चित्र तैयार किए, जिन्हें बाद में सोशल मीडिया प्लेटफॉर्म X पर व्यापक रूप से साझा किया गया।
गोपनीयता आयुक्त कार्यालय ने बताया कि जांच के बाद xAI और X ने कुछ नए सुरक्षा उपाय लागू किए हैं, लेकिन समस्या अभी भी हल नहीं हुई है। ड्यूफ्रेस्ने ने कहा, “उन्होंने अनुपालन का वादा किया है, लेकिन मैं इस बात से संतुष्ट नहीं हूं कि समस्या का समाधान हो गया है।” इसी सप्ताह कनाडा सरकार ने बुधवार को सुरक्षित सोशल मीडिया अधिनियम पेश किया, जिसके तहत ऑनलाइन प्लेटफॉर्म को AI द्वारा बनाए गए डीपफेक सहित अश्लील सामग्री को 24 घंटे के भीतर हटाना अनिवार्य होगा, और ऐसी छवियों को साझा करने को आपराधिक अपराध बनाने की योजना है। यह निर्णय सोशल मीडिया और AI कंपनियों पर डीपफेक सामग्री पर लगाम लगाने के लिए नियामक दबाव बढ़ाता है।
