解读 Claude 开发者平台新功能：扩展输出、评估模式与 панель расходов

На этот раз фокус обновления Claude API предельно ясен: сделать так, чтобы разработчикам было проще получать более длинные ответы, быстрее отлаживать промпты и яснее видеть использование и расходы. Ниже — по порядку «что можно сразу применить», разберём новые функции Claude API и консоли (Workbench) по отдельности.

Расширенный вывод Claude API: стабильнее писать длинные отчёты за один раз

В Claude API максимальный объём вывода для Claude Sonnet 3.5 увеличен с 4096 token до 8192 token — подходит для длинных резюме, генерации кода и многоабзацного структурированного контента. Чтобы включить расширенный вывод, нужно добавить в запрос указанный beta-заголовок.

Конкретно: добавьте заголовок anthropic-beta: max-tokens-3-5-sonnet-2024-07-15, затем установите max_tokens в нужный вам диапазон. Для сценариев Claude API, которые часто «обрываются на середине», это улучшение ощущается сразу.

Два полезных инструмента в Workbench: генератор промптов и режим оценки

В рабочей области консоли Claude добавили «генератор промптов»: вы описываете задачу (например, классификацию обращений в службу поддержки), а он в ответ предлагает более исполнимый шаблон промпта, сокращая время на создание промпта с нуля. Для команд, которым нужно быстро внедрить Claude API, этот шаг снижает количество проб и ошибок.

Второй инструмент — «режим оценки»: он позволяет сравнивать вывод по двум или нескольким промптам бок о бок и оценивать результаты по 5-балльной шкале. Для A/B-тестирования это удобнее, чем сравнивать «на глаз» в чате, и лучше подходит для закрепления процесса итераций промптов для Claude API.

Панель использования и расходов: разложить стоимость Claude API по полочкам

В консоли разработчика появились вкладки «Использование» и «Расходы»: можно отслеживать применение Claude API по сумме в долларах США, количеству токенов и API Key. Для аккаунтов с несколькими средами (тест/прод) или параллельными проектами этот дашборд помогает быстрее понять, «кто выбил токены в потолок».

Примечания к релизам и пункты о производительности: проще следить за изменениями Claude API

В документации добавили более полные примечания к релизам — обновления API, консоли Claude и приложения Claude стало легче отслеживать. Одновременно в Claude API также доступно кэширование промптов (бета): оно позволяет кэшировать и переиспользовать промпты; по заявлению разработчиков, задержку можно снизить до 80%, а стоимость — до 90%. Подходит для сценариев с высокой повторяемостью, например для системных промптов или фиксированных префиксов знаний.