Một rủi ro mới đang xuất hiện trong lĩnh vực dịch vụ AI: "AI deplatforming" (trục xuất nền tảng), hiện tượng tương tự như debanking (ngưng dịch vụ ngân hàng) trong lĩnh vực tài chính, khi người dùng bị nền tảng đơn phương chấm dứt dịch vụ mà thiếu đi lời giải thích hợp lý. Theo báo cáo từ Forbes, trợ lý AI Claude của Anthropic gần đây đã chứng kiến hàng loạt sự việc tài khoản người dùng bị khóa, làm dấy lên mối quan tâm rộng rãi trong ngành về độ tin cậy và tính minh bạch của dịch vụ AI. Xu hướng này cho thấy, khi công cụ AI ngày càng phổ biến, quyền lực tập trung từ phía nền tảng có thể mang lại những thiệt hại bất ngờ cho người dùng.
Trong một trường hợp cụ thể, nhà phát triển người Áo Peter Steinberger khi đang kiểm thử tính năng tương thích, tài khoản Claude cá nhân của ông đã bị tạm ngưng với lý do "tín hiệu đáng ngờ", mặc dù trước đó kỹ sư của Anthropic đã xác nhận hệ thống của họ tồn tại lỗi. Ngoài ra, một cá nhân tự nhận là người dùng cao cấp lâu năm vẫn bị khóa tài khoản sau khi thanh toán mức phí gấp 20 lần, trong khi trên diễn đàn Reddit xuất hiện những thảo luận như "tài khoản bị cấm vĩnh viễn, mất 300 USD không một lời giải thích". Những sự việc này làm nổi bật lỗ hổng trong hệ thống kiểm soát rủi ro tự động hóa của nền tảng, cũng như thách thức mà người dùng phải đối mặt khi bảo vệ quyền lợi.
