Grok AI द्वारा अश्लील डीपफेक तस्वीरें: कनाडा में गोपनीयता कानून का उल्लंघन साबित

कनाडा के गोपनीयता आयुक्त फिलिप ड्यूफ्रेसन (Philippe Dufresne) ने गुरुवार को अपना फैसला सुनाते हुए कहा कि एलन मस्क (Elon Musk) के स्वामित्व वाले AI चैटबॉट Grok द्वारा बिना सहमति के अश्लील डीपफेक तस्वीरें बनाना कनाडा के संघीय गोपनीयता कानून का उल्लंघन है। जांच में खुलासा हुआ कि इस साल की शुरुआत में सिर्फ 10 दिनों के अंदर दुनिया भर के उपयोगकर्ताओं ने Grok के जरिए 18 लाख से अधिक ऐसी तस्वीरें जनरेट कीं। हालाँकि xAI और X प्लेटफॉर्म ने नए सुरक्षा उपाय लागू किए हैं, लेकिन ड्यूफ्रेसन ने कहा कि यह समस्या अभी हल नहीं हुई है।

ड्यूफ्रेसन ने अपने बयान में जोर देते हुए कहा: "उन्होंने अनुपालन का वादा जरूर किया, लेकिन इस मामले में मैं संतुष्ट नहीं हूँ कि समस्या का समाधान हो गया है।" यह जांच इस साल जनवरी में शुरू हुई थी, जब ब्रिटेन और कैलिफोर्निया में भी इसी तरह की जाँचें शुरू हो चुकी थीं। वहीं, कनाडा की लिबरल पार्टी सरकार ने बुधवार को सुरक्षित सोशल मीडिया विधेयक पेश किया, जिसमें ऑनलाइन प्लेटफॉर्मों को AI से बनी डीपफेक सहित अश्लील सामग्री को 24 घंटे के अंदर हटाने और ऐसी तस्वीरें साझा करने को आपराधिक अपराध बनाने का प्रस्ताव है।

विश्लेषकों का मानना है कि यह फैसला सोशल मीडिया और AI कंपनियों पर अनुपालन का दबाव और बढ़ा देगा। कनाडा में कानून बनाने की प्रक्रिया तेज होने के साथ, दुनिया भर में AI से उत्पन्न हानिकारक सामग्री पर नियंत्रण कड़ा हो रहा है। Grok की यह घटना एक बार फिर दिखाती है कि तकनीकी कंपनियों को जनरेटिव AI क्षमताओं को तैनात करते समय सबसे पहले उपयोगकर्ता व्यवहार पर प्रभावी नियंत्रण प्रणाली स्थापित करनी होगी, अन्यथा उन्हें लगातार कानूनी और जनमत के जोखिमों का सामना करना पड़ेगा।