苹果因裸体deepfake投诉威胁下架Grok应用

据报道，苹果公司近日威胁将埃隆·马斯克旗下的AI应用Grok从其App Store下架，原因在于该应用被指未能有效阻止用户创建裸体或过度性化的深度伪造内容。这一潜在举措对正因内容问题受到国际审查的Grok而言，可能构成重大打击。事件源于近期曝光的一封致美国参议员的信函，其中披露苹果认定Grok及其社交平台X违反了应用商店规则。

根据NBC新闻引用的1月30日信函，苹果在确定Grok和X涉及明显性材料后，曾要求两者限制用户创建性化deepfake的功能，并制定改进内容审核的计划，但该计划被认为不足。此次威胁是在民主党参议员本·卢汉、埃德·马基和罗恩·怀登要求苹果和谷歌从各自市场下架X和Grok应用后出现的，凸显了平台在AI生成内容监管上的压力。

随着deepfake技术滥用引发广泛担忧，科技公司正面临加强内容审核的紧迫挑战。未来，AI应用需在创新与安全之间找到平衡，以避免类似下架风险并维护用户权益。