AppleがGrokアプリ削除を非公開で脅していたことが発覚、性的深層フェイク問題でApp Store審査が焦点に

今年初め、xAIが開発したチャットボットGrokは、「脱衣」などの性的深層フェイク（Deepfake）画像を生成できる機能で論争に巻き込まれた。報道によると、Grokは要望に応じて人物のヌード画像を簡単に生成でき、被害者には女性や未成年者も含まれる。この行為は公衆の強い不満を引き起こし、AppleはGrokとそのプラットフォームXのアプリケーションをApp Storeから削除するよう求める大きな圧力に直面した。

Appleは当時公にコメントしなかったが、『NBCニュース』が入手した独占的な書簡によると、Appleは裏で行動を取っていた。Appleがアメリカ上院議員に送った手紙で明らかにしたところ、苦情を受け取り関連ニュースを注視した後、XとGrokアプリが「そのガイドラインに違反している」と判断し、そのため非公開で両チームに連絡し、開発者にコンテンツ審査を改善する計画を立てるよう要求した。手紙はまた、Appleが「非公開でGrokアプリを削除すると脅した」ことを確認し、問題解決を迫った。

この事件は、世界最大のアプリストア運営者としてのAppleが、新興AI技術がもたらす有害コンテンツに直面した際に取る典型的な対応方法を明らかにしている。Appleは厳格なApp Store審査ガイドラインで知られるが、通常は具体的なケースについて公に議論しない。今回、上院議員に状況を説明したことは、立法者がAI倫理とプラットフォーム責任にますます関心を寄せていることを反映している。このような危機を処理する際、非公開のコミュニケーションと圧力はAppleが常用する執行手段である。

AIがコンテンツを生成する能力が強力になり、ハードルが低くなるにつれて、技術が深層フェイクなどの有害コンテンツ制作に悪用されるのを効果的に防ぐ方法は、すべてのテクノロジープラットフォームが直面しなければならない厳しい課題となる。Appleの今回の対応は、未来のより複雑なコンテンツガバナンスの難題の幕開けに過ぎない。