ในแวดวงบริการ AI กำลังมีความเสี่ยงใหม่เกิดขึ้น: AI deplatforming (การขับออกจากแพลตฟอร์ม) ซึ่งคล้ายคลึงกับ debanking (การหยุดชะงักของบริการธนาคาร) ในภาคการเงิน นั่นคือผู้ใช้ถูกระงับบริการโดยฝ่ายเดียวจากแพลตฟอร์มโดยไม่มีคำอธิบายที่สมเหตุสมผล ตามรายงานของ Forbes ผู้ช่วย AI Claude จาก Anthropic มีหลายกรณีที่บัญชีผู้ใช้ถูกแบนเมื่อเร็วๆ นี้ สิ่งนี้ทำให้เกิดความกังวลอย่างกว้างขวางในอุตสาหกรรมเกี่ยวกับความน่าเชื่อถือและความโปร่งใสของบริการ AI แนวโน้มนี้แสดงให้เห็นว่าเมื่อเครื่องมือ AI ถูกใช้อย่างแพร่หลายมากขึ้น อำนาจที่รวมศูนย์ของแพลตฟอร์มอาจนำมาซึ่งความสูญเสียที่คาดไม่ถึงสำหรับผู้ใช้
ในกรณีศึกษาเฉพาะ ผู้พัฒนาจากออสเตรีย Peter Steinberger ถูกระงับบัญชี Claude ส่วนตัวของเขาเนื่องจาก"สัญญาณน่าสงสัย" ขณะที่กำลังทดสอบฟังก์ชันความเข้ากันได้ ก่อนหน้านั้นวิศวกรของ Anthropic ได้ยืนยันแล้วว่าระบบของพวกเขามีข้อบกพร่อง นอกจากนี้ บุคคลหนึ่งที่อ้างว่าเป็นผู้ใช้ระดับสูงมาอย่างยาวนานยังถูกแบนแม้จะจ่ายค่าบริการรายเดือนเพิ่มขึ้น 20 เท่า และในฟอรัม Reddit ยังมีการพูดถึงเรื่อง "บัญชีถูกแบนถาวร คิดค่าบริการ 300 ดอลลาร์โดยไม่มีคำอธิบาย" เหตุการณ์เหล่านี้เน้นให้เห็นช่องโหว่ในระบบควบคุมความเสี่ยงอัตโนมัติของแพลตฟอร์ม และความท้าทายที่ผู้ใช้เผชิญในการเรียกร้องสิทธิ
