Если вы недавно используете Claude API для приложений или агентных систем, самые заметные изменения такие: можно отвечать длиннее, расходы легче проверять, обновления проще отслеживать. Ниже я разберу эти новые возможности Claude API по пунктам, чтобы вам было удобно сразу внедрить их в проект.
Обновление моделей Claude API: Sonnet 3.5 быстрее и мощнее
Claude API сделал Claude Sonnet 3.5 важным вариантом нового поколения: в ряде оценок он превзошёл конкурентов того же уровня и прежний Opus 3, при этом сохранив преимущества средней модели по скорости и стоимости. Для сценариев, где нужны «быстрый отклик и стабильное качество», эффект от такого апгрейда будет особенно заметен. Сначала вы можете проверить результат в рабочей области консоли Claude, а затем перенести тот же набор промптов в вызовы через Claude API.
Удвоение длины вывода Claude API: как включить 8192 вместо 4096
Многие сталкиваются с тем, что ответы Claude API обрываются; по сути, это означает, что лимит максимального числа output-токенов недостаточен. Теперь Claude Sonnet 3.5 в Claude API поддерживает увеличение максимального вывода с 4096 до 8192, но для этого нужно явно включить beta-возможность. Делается это добавлением в запрос заголовка:
"anthropic-beta": "max-tokens-3-5-sonnet-2024-07-15"
После включения такие задачи, как большие резюме, генерация кода и пакетная переработка текста, выполняются заметно удобнее.
Панель использования и расходов Claude API: отслеживание по долларам, токенам и ключам
Anthropic добавил в консоль разработчика вкладки «Использование» и «Расходы», так что по Claude API больше не приходится ориентироваться только на грубые оценки. Теперь можно отслеживать потребление по сумме в долларах, количеству токенов и разрезу API-ключей — так гораздо быстрее понять, «какой сервис сжигает деньги». Для проектов с несколькими окружениями (тест/прод) или командным распределением затрат по нескольким ключам эта функция почти обязательна.
Примечания к релизам и обновление документации Claude API: меньше затрат на «набивание шишек»
В документации Claude API появились более полные примечания к релизам, которые охватывают обновления API, консоли Claude и приложения Claude — удобно для отслеживания версий и регрессионных проверок. Одновременно Anthropic переработал документацию и расширил Claude Cookbook, добавив руководства по ключевым навыкам: цитирование, RAG (генерация с усилением за счёт поиска), классификация и др. Перенос этих практик прямо в промпты Claude API и дизайн цепочек обычно экономит больше времени, чем «слепая настройка параметров».