Expulsion des plateformes d'IA : les bannissements inexpliqués de Claude inquiètent les utilisateurs

Un nouveau risque émerge dans le domaine des services d'intelligence artificielle : le « déplateformage » (AI deplatforming). Similaire au « débanquement » (debanking) dans la finance, il désigne la suspension unilatérale du service par la plateforme, souvent sans justification détaillée. Selon Forbes, plusieurs utilisateurs de l'assistant Claude, développé par Anthropic, ont vu leur compte récemment banni. Ces incidents ont suscité une inquiétude croissante dans le secteur concernant la fiabilité et la transparence des services d'IA. Cette tendance montre qu'avec l'adoption massive des outils d'IA, la concentration du pouvoir chez les plateformes peut entraîner des préjudices inattendus pour les utilisateurs.

Dans un cas concret, le développeur autrichien Peter Steinberger a vu son compte personnel Claude suspendu pour « signaux suspects » alors qu'il testait une fonction de compatibilité. Pourtant, des ingénieurs d'Anthropic avaient préalablement reconnu une faille dans leur système. Par ailleurs, un utilisateur de longue date, se présentant comme un client payant premium, a été banni après avoir payé l'équivalent de 20 mois d'abonnement. Sur des forums comme Reddit, des discussions évoquent des « bannissements permanents pour 300 dollars, sans explication ». Ces événements mettent en lumière les failles potentielles des systèmes automatisés de contrôle des risques et les difficultés pour les utilisateurs de faire valoir leurs droits.

Ce phénomène s'inscrit dans un marché de l'IA qui se segmente rapidement : l'IA grand public et l'IA d'entreprise suivent des trajectoires distinctes. Des plateformes comme GitHub Copilot et Claude Code détiennent désormais plus de 70% des parts du marché de la programmation assistée par IA, ce qui augmente considérablement le coût pour un utilisateur de changer de service. Les contrats d'entreprise, souvent conclus pour plusieurs années, rendent le risque d'interruption de service encore plus critique. À l'avenir, les fournisseurs d'IA devront trouver un équilibre entre croissance et confiance des utilisateurs, en établissant des règles et des mécanismes de recours plus clairs pour éviter que le « déplateformage » ne nuise à l'écosystème de l'industrie.

Analyse : Les cas de « déplateformage » en IA servent d'avertissement. Alors que ces outils s'intègrent profondément dans les flux de travail, la transparence et la responsabilité des fournisseurs sont cruciales. Le secteur devrait encourager une gouvernance standardisée pour protéger les droits des utilisateurs contre des atteintes arbitraires et maintenir un environnement d'innovation durable.