Claude API: добавлены расширенный вывод на 8192 токена и разбор режима оценки в Workbench

Если вы в последнее время занимаетесь генерацией длинных текстов, сложными рассуждениями или многошаговой выдачей кода, это обновление Claude API стоит сразу взять в работу. Ключевые изменения включают: удвоение максимального вывода Claude Sonnet 3.5, появление в консоли Claude Workbench генератора промптов и режима оценки, а также более наглядную панель использования и расходов.

Claude API: лимит вывода Sonnet 3.5 удвоен до 8192

В Claude API максимальный лимит выходных токенов для Claude Sonnet 3.5 повышен с 4096 до 8192 — это лучше подходит для единоразовой выдачи полного решения, длинных документов или более крупных блоков кода. Чтобы включить расширенный вывод, нужно добавить в запрос указанный beta-заголовок, а не просто увеличивать параметр max_tokens.

Официальный вариант — добавить заголовок: "anthropic-beta": "max-tokens-3-5-sonnet-2024-07-15". Для команд, которые часто страдают от «обрезания вывода», этот шаг в Claude API заметно снижает затраты на разбиение диалогов и последующую склейку результатов.

Workbench в консоли Claude: генератор промптов лучше подходит для практических сценариев

В Claude Workbench в консоли появился «генератор промптов»: достаточно описать задачу естественным языком, например «классифицировать входящие запросы в службу поддержки», и он в обратную сторону поможет собрать более полную структуру промпта. Для тех, кому нужно встроить Claude API в бизнес-процессы, это экономит время по сравнению с написанием prompt с нуля.

Рекомендуется также включать в описание задачи форматы входа/выхода, граничные условия и стратегию отката при ошибках, а затем попросить генератор выдать шаблон промпта, который можно напрямую использовать в Claude API.

Режим оценки: сравнение промптов бок о бок — меньше лишних итераций

«Режим оценки» в Workbench позволяет запускать одну и ту же задачу параллельно с двумя или более промптами и оценивать ответы Claude по 5-балльной шкале. Ценность здесь не в самой «оценке», а в том, что команда быстрее сходится к стабильной версии промпта для Claude API.

Если вы делаете такие задачи с жёсткими требованиями, как маршрутизация обращений в поддержку, модерация контента или извлечение информации, режим оценки можно использовать, чтобы проверить, как разные стили инструкций влияют на согласованность.

Панель использования и расходов: стоимость Claude API стала прозрачнее

В консоли для разработчиков добавлены вкладки «Использование» и «Расходы»: можно отслеживать использование и биллинг Claude API по сумме в долларах США, количеству токенов и API-ключам. Для команд с несколькими проектами и параллельным использованием множества ключей это помогает быстрее понять, «какой именно контур сжигает токены».

Одновременно документацию дополнили более полным входом к релиз-нотам, так что дальше следить за обновлениями не придётся, перелистывая объявления в разных местах.