Claude API를 고객 지원 자동화, 콘텐츠 생성 또는 코드 보조에 일상적으로 사용하신다면, 이번 개발자 콘솔 업데이트가 작업을 훨씬 수월하게 만들어 줄 것입니다. 이번 업데이트의 핵심은 화려한 신기능이 아니라, 출력 한도, 프롬프트 디버깅, 비용 추적이라는 가장 시간을 많이 잡아먹는 세 가지 작업을 더 명확하고 통제 가능하게 만드는 데 있습니다. 아래에서는 실제 사용 흐름에 따라 핵심적인 변화점을 상세히 살펴보겠습니다.
Claude API 확장 출력: Sonnet 3.5, 8192 토큰까지 지원
Claude API에서 Claude Sonnet 3.5 모델의 최대 출력 토큰이 4096에서 8192로 증가했습니다. 긴 글 요약, 대량 리라이팅, 비교적 완성도 높은 기술 문서 생성 시 중간에 끊기는 현상을 더 줄일 수 있게 되었습니다. 확장 출력을 사용하려면 요청에 지정된 베타 요청 헤더를 추가해야 합니다.
구체적으로 API 호출 시 "anthropic-beta": "max-tokens-3-5-sonnet-2024-07-15" 헤더를 추가하고, 동시에 max_tokens 값을 (계정 허용 범위 내에서) 더 높게 설정하면 됩니다. 출력 길이가 늘어나면 응답 시간과 토큰 비용에 더 민감해질 수 있으므로, 작은 트래픽으로 인터페이스 부하 테스트를 먼저 진행하는 것을 권장합니다.
워크벤치 개선: 프롬프트 생성기로 '0에서 시작'을 재사용 가능한 워크플로로
Claude API 콘솔의 워크벤치에 새로 추가된 '프롬프트 생성기'는 사용자가 작업을 한 문장으로 설명하기만 하면(예: "수신 고객 지원 요청 분류 처리"), 구조화된 프롬프트 뼈대를 제공합니다. 팀 협업 시 특히 효율적입니다: 동료들이 각자 작성할 필요 없이, 템플릿을 통해 일관된 어조와 형식을 유지하기 더 쉬워집니다.
더 추천하는 사용법은 생성기로 초안을 만든 후, "반드시 JSON으로 출력해야 함", "출처를捏造하지 말 것", "입력의 필드명을 인용해야 함"과 같은 비즈니스 제약 조건을 보완하는 것입니다. 이렇게 하면 더 안정적이며, Claude API 라이브 환경에 바로 적용하기에 적합한 프롬프트를 얻을 수 있습니다.
평가 모드: Claude API 프롬프트 튜닝을 '대조 실험'으로
워크벤치의 '평가 모드'는 두 개 이상의 프롬프트 출력을 나란히 비교하고, 5점 척도로 결과에 점수를 매길 수 있게 지원합니다. 이 기능은 "B가 더 나아 보이지만, 사실은 특정 테스트 샘플에 우연히 잘 맞았을 뿐"이라는 오래된 문제를 해결합니다.
