Prise en main des nouvelles fonctionnalités de l’API Claude : bascule de sortie longue, évaluation dans le Workbench et tableau de bord des coûts

Si vous utilisez récemment l’API Claude pour faire des résumés, écrire du code ou générer de longs textes, le changement le plus évident est qu’elle « peut produire des sorties plus longues », et, en même temps, la console développeur est plus agréable à utiliser. Cet article explique clairement, point par point, plusieurs nouveautés de l’API Claude : comment activer la sortie longue, comment utiliser le Workbench pour évaluer des prompts, et comment comprendre vos dépenses dans le tableau de bord.

Sortie longue de l’API Claude : Sonnet 3.5 passe de 4096 à 8192

L’API Claude a porté la limite maximale de tokens en sortie de Claude Sonnet 3.5 à 8192, mais il faut l’activer explicitement. Lors de l’appel à l’API Claude, ajoutez anthropic-beta dans l’en-tête de la requête pour activer une fenêtre de sortie plus longue, adaptée à la génération en une fois de rapports plus complets, de longs fichiers de code ou de résumés en plusieurs sections.

La syntaxe est très claire : ajoutez à l’en-tête anthropic-beta: max-tokens-3-5-sonnet-2024-07-15. Si, dans l’API Claude, vous rencontrez une « sortie tronquée », commencez par vérifier si vous avez oublié ce commutateur et si votre max_tokens est réglé suffisamment haut.

Workbench plus pratique : générateur de prompts et mode d’évaluation

Dans le Workbench de la console Claude, l’expérience de débogage de l’API Claude s’est enrichie de deux outils clés. Le premier est le « générateur de prompts » : il vous suffit de décrire l’objectif de la tâche (par exemple « classer les demandes entrantes du service client ») et il produira un brouillon de prompt bien structuré, directement copiable dans l’API Claude.

Le second est le « mode d’évaluation » : exécutez côte à côte deux ou plusieurs ensembles de prompts sur le même lot d’entrées ; les sorties sont affichées ensemble pour comparaison, et vous pouvez noter les performances sur une échelle de 5 points. Pour les usages de l’API Claude qui exigent des résultats stables (routage du support, extraction d’informations, réécriture de conformité), cette étape peut réduire nettement les ajustements « au feeling ».

Tableau de bord d’utilisation et des coûts : clarifier les dépenses de l’API Claude

Avec l’ajout des onglets « Utilisation » et « Coûts » dans la console développeur, la facture de l’API Claude ne dépend plus seulement d’une impression. Vous pouvez suivre la consommation par montant en dollars, par nombre de tokens et par clé API, et identifier rapidement « quelle clé est en train de faire flamber les coûts ».

Il est conseillé de séparer les différents environnements en différentes clés (par exemple développement/test/production), puis d’utiliser le tableau de bord pour revoir les périodes de pic. Ainsi, si l’API Claude subit des appels anormaux ou des requêtes en boucle, vous pourrez le détecter avant que les coûts ne s’envolent.

Documentation et ressources d’apprentissage plus complètes : notes de version, cours et Cookbook

La documentation de l’API Claude s’est enrichie de notes de version plus systématiques, couvrant les mises à jour de l’API, de la console Claude et de l’application Claude, ce qui convient bien aux équipes pour consigner les changements de version. Par ailleurs, l’officiel a aussi mis en ligne des cours sur les bases de l’API Claude et l’utilisation des outils, permettant aux nouveaux venus de se mettre rapidement à niveau sur les appels, la sortie JSON structurée, etc.

Si vous travaillez sur la génération augmentée par récupération, l’annotation de citations ou des tâches de classification, vous pouvez consulter directement les guides correspondants du Claude Cookbook et gagner du temps en évitant de retomber dans les mêmes pièges. Dans l’ensemble, l’essentiel de cette mise à jour de l’API Claude ne réside pas dans des « gadgets », mais dans la consolidation de trois éléments : la sortie longue, l’évaluation et la gestion des coûts.