報告によると、Appleは最近、Elon Musk氏が運営するAIアプリGrokをApp Storeから削除すると警告しました。その理由は、同アプリがユーザーがヌードや過度に性的なdeepfakeコンテンツを作成するのを効果的に阻止できなかったと指摘されているためです。この潜在的な措置は、コンテンツ問題で国際的な審査を受けているGrokにとって重大な打撃となる可能性があります。事件は、最近暴露された米国上院議員への書簡に由来し、その中でAppleはGrokとそのソーシャルプラットフォームXがApp Storeの規則に違反していると判断したことが明らかになりました。
NBC Newsが引用した1月30日付の書簡によると、AppleはGrokとXが明らかな性的素材に関与していると判断した後、両者に対してユーザーが性的なdeepfakeを作成する機能を制限し、コンテンツ審査を改善する計画を立てるよう要求しましたが、その計画は不十分と見なされました。この警告は、民主党上院議員のBen Lujan氏、Ed Markey氏、Ron Wyden氏がAppleとGoogleにそれぞれのマーケットプレイスからXとGrokアプリを削除するよう求めた後に発生し、プラットフォームがAI生成コンテンツの監視において直面する圧力を浮き彫りにしています。
