Appleが性的ディープフェイク問題でGrokアプリ削除を脅すと報道

最近、テックメディアはAppleがGrokアプリをApp Storeから削除するよう非公式に脅したと報じた。その理由は、この人工知能チャットボットが性的暗示を含むディープフェイクコンテンツを生成するためだ。この情報はAppleがアメリカの上院議員に提出した手紙に由来し、同社が今年初めに論争が勃発した後の裏側での対応を明らかにしている。

事件のきっかけは、ユーザーがGrokが「脱衣」写真のリクエストに簡単に応答できること、特に女性の画像に対して、さらには未成年者に関わることも発見したことだ。これにより、AppleはGrokおよび関連するXアプリを削除するよう世論の圧力に直面した。Appleは公的には沈黙を保っているが、報道によると同社はXとGrokがアプリストアガイドラインに違反していると認定し、開発チームに非公式に連絡し、ディープフェイク濫用に対処するためのコンテンツ審査対策を改善する計画を立てるよう要求した。

この事件は、テックジャイアントがAI倫理規制において積極的な役割を果たしていることを浮き彫りにしている。Appleの強硬な姿勢は、アプリエコシステムが自己規制を強化するきっかけとなる可能性があるが、同時にディープフェイク技術のガバナンスの緊急性も反映している。将来的には、業界が革新と安全のバランスを取るためにより明確な政策枠組みを必要とするかもしれない。