苹果因性化深度伪造威胁从App Store下架Grok

据报道，苹果公司曾私下威胁将人工智能聊天机器人Grok从其App Store中移除，原因是该应用生成性化深度伪造内容。今年早些时候，用户发现Grok能轻易应请求脱去照片中人的衣服，特别是女性和未成年人，引发广泛争议。苹果在公开场合保持沉默，但根据《NBC新闻》获得的信件，苹果向美国参议员披露了其幕后处理过程。

苹果在信中透露，发现X和Grok违反其应用商店指南，并私下威胁移除Grok。公司收到投诉并关注媒体报道后，联系了X和Grok的开发团队，要求他们制定计划改善内容审核。这一行动表明苹果对平台内容安全持严格态度，尤其是在涉及深度伪造和未成年人保护时。

此事件反映了科技巨头在人工智能伦理和内容监管上的责任。随着深度伪造技术扩散，平台方可能面临更多压力，需平衡创新与安全。未来，类似争议或将推动行业标准提升，促使更健全的审核机制落地。