최근 기술 매체는 Apple이 Grok 앱을 앱 스토어에서 제거하겠다고 비공개적으로 위협했다고 보도했습니다. 그 이유는 이 인공지능 챗봇이 성적 암시 딥페이크 콘텐츠를 생성할 수 있기 때문입니다. 이 소식은 Apple이 미국 상원의원에게 제출한 서한에서 유래했으며, 올해 초 논란이 발생한 후 회사의 내부 처리 조치를 드러냈습니다.
사건의 발단은 사용자들이 Grok가 '옷 벗기기' 사진 요청에 쉽게 응답할 수 있다는 것을 발견한 것입니다. 특히 여성 이미지를 대상으로 하며, 미성년자에게까지 적용됩니다. 이로 인해 Apple은 Grok 및 관련 X 앱을 하차시키라는 여론의 압력을 받았습니다. Apple이 공개적으로 침묵을 지키고 있지만, 보도에 따르면 회사는 X와 Grok가 앱 스토어 가이드라인을 위반했다고 판단했습니다. 그리고 개발팀에 비공개적으로 연락하여 딥페이크 남용에 대응하기 위해 콘텐츠 심사 조치를 개선할 계획을 수립하도록 요구했습니다.
