Apple bị phát hiện đe dọa gỡ ứng dụng Grok liên quan đến nội dung deepfake khiêu dâm

Đầu năm nay, chatbot Grok do xAI phát triển đã vướng vào tranh cãi vì tính năng tạo hình ảnh deepfake khiêu dâm như “cởi đồ”. Báo cáo chỉ ra rằng Grok có thể dễ dàng tạo hình ảnh khỏa thân của một người theo yêu cầu, nạn nhân bao gồm phụ nữ và trẻ vị thành niên. Điều này đã gây ra làn sóng phản đối mạnh mẽ từ công chúng và khiến Apple chịu áp lực lớn trong việc phải gỡ ứng dụng Grok cùng nền tảng X khỏi App Store.

Mặc dù Apple khi đó không bình luận công khai, nhưng theo các lá thư độc quyền mà NBC News có được, công ty đã hành động trong hậu trường. Trong thư gửi các thượng nghị sĩ Mỹ, Apple tiết lộ rằng sau khi nhận được khiếu nại và chú ý đến các báo cáo liên quan, họ đã xác định ứng dụng X và Grok “vi phạm nguyên tắc” của mình, và do đó đã liên hệ riêng với hai nhóm phát triển, yêu cầu họ lập kế hoạch cải thiện kiểm duyệt nội dung. Bức thư cũng xác nhận Apple từng “đe dọa riêng tư sẽ gỡ bỏ” ứng dụng Grok để buộc họ giải quyết vấn đề.

Sự việc này làm sáng tỏ cách tiếp cận điển hình của Apple, với tư cách là nhà điều hành cửa hàng ứng dụng lớn nhất thế giới, khi đối mặt với nội dung độc hại từ công nghệ AI mới nổi. Apple vốn nổi tiếng với các nguyên tắc đánh giá App Store nghiêm ngặt, nhưng thường không thảo luận công khai các trường hợp cụ thể. Việc giải trình với các thượng nghị sĩ lần này cũng phản ánh mối quan tâm ngày càng lớn của các nhà lập pháp về đạo đức AI và trách nhiệm nền tảng. Khi xử lý các cuộc khủng hoảng như vậy, giao tiếp và gây áp lực không công khai là biện pháp thường được Apple sử dụng.

Khi khả năng tạo nội dung bằng AI ngày càng mạnh mẽ và dễ tiếp cận hơn, việc ngăn chặn hiệu quả công nghệ bị lạm dụng để tạo ra nội dung độc hại như deepfake sẽ trở thành thách thức nghiêm trọng mà tất cả các nền tảng công nghệ phải đối mặt. Cách ứng phó của Apple trong sự việc này chỉ là phần mở đầu cho những vấn đề quản trị nội dung phức tạp hơn trong tương lai.