रिपोर्ट्स के अनुसार, Apple ने हाल ही में Elon Musk के AI एप्लिकेशन Grok को अपने App Store से हटाने की धमकी दी है, क्योंकि यह एप उपयोगकर्ताओं द्वारा नग्न या अत्यधिक यौनिक deepfake सामग्री बनाने को प्रभावी ढंग से रोकने में विफल रहा है। यह संभावित कार्रवाई Grok के लिए एक गंभीर झटका साबित हो सकती है, जो पहले से ही सामग्री समस्याओं के कारण अंतरराष्ट्रीय निगरानी में है। यह मामला हाल ही में सामने आए अमेरिकी सीनेटरों को लिखे गए एक पत्र से उजागर हुआ है, जिसमें Apple ने खुलासा किया कि Grok और इसका सोशल प्लेटफॉर्म X ने ऐप स्टोर के नियमों का उल्लंघन किया है।
NBC News द्वारा उद्धृत 30 जनवरी के पत्र के मुताबिक, Apple ने Grok और X में स्पष्ट यौन सामग्री की मौजूदगी पाए जाने के बाद, दोनों से उपयोगकर्ताओं द्वारा यौनिक deepfake बनाने की सुविधा को सीमित करने और सामग्री मॉडरेशन में सुधार की योजना बनाने को कहा, लेकिन इस योजना को अपर्याप्त माना गया। यह धमकी डेमोक्रेटिक सीनेटर बेन लुजान, एड मार्की और रॉन वाइडन द्वारा Apple और Google से अपने-अपने प्लेटफॉर्म्स से X और Grok एप्स को हटाने के अनुरोध के बाद आई है, जो AI-जनित सामग्री के नियमन पर प्लेटफॉर्म्स के बढ़ते दबाव को रेखांकित करती है।
