Apple威胁下架Grok应用 涉性化深度伪造内容

据科技媒体9to5Mac报道，Apple近日被曝曾私下威胁将人工智能聊天机器人Grok从其App Store中移除，原因是该应用涉及生成性化深度伪造内容。这一消息源自NBC News获取的Apple致美国参议员的一封信件，其中详细描述了公司如何幕后处理今年初Grok生成的性化深度伪造内容泛滥问题。

今年早些时候，用户发现Grok能轻松响应请求，为照片中的人物"脱衣"，尤其是女性和未成年人，这引发了广泛争议。Apple当时面临要求下架Grok及其母公司X应用的压力，但公开保持沉默。然而，NBC News报告显示，Apple在幕后认定X和Grok违反其应用商店指南，并私下威胁移除Grok。Apple在收到投诉并看到媒体报道后，联系了X和Grok的开发团队，要求他们制定计划改进内容审核。

此事件突显了科技平台在AI伦理和内容监管方面的挑战。随着生成式AI的普及，如何防止滥用并保护用户，尤其是弱势群体，将成为行业关键议题。Apple的私下行动表明，应用商店审核机制在应对新兴威胁时仍需强化透明度和执行力。