Claude API가 최근 '더 길게 쓰기, 더 빠르게 튜닝하기, 더 정확하게 계산하기'라는 세 가지 기능을 보완했습니다. 일상적으로 고객 서비스 자동화, 콘텐츠 생성 또는 코드 도우미 작업을 하는 개발자들에게 가장 큰 변화는 모델 이름이 아니라 콘솔 워크벤치와 사용량 패널과 같은 세부 기능에 있습니다.
Claude API의 확장 출력: Sonnet 3.5로 더 많은 내용 생성
Claude API에서 Claude Sonnet 3.5의 최대 출력 토큰 한도가 4096에서 8192로 증가해 장문 요약, 솔루션 비교, 일괄 규칙 설명과 같은 작업에 적합해졌습니다. 확장 출력을 활성화하려면 max_tokens 매개변수만 변경하는 대신 요청에 특정 베타 요청 헤더를 추가해야 합니다.
공식 제공 예시는 다음과 같습니다: 요청 헤더에 "anthropic-beta": "max-tokens-3-5-sonnet-2024-07-15"를 포함하세요. Claude API가 여전히 출력을 조기에 중단한다면, 이 요청 헤더를 누락하지 않았는지와 max_tokens가 적절히 설정되었는지 우선 확인하세요.
워크벤치에 추가된 프롬프트 생성기: 올바른 질문으로 시작하기
Claude 콘솔 워크벤치에 '프롬프트 생성기'가 새로 도입되었으며, 접근 방식은 매우 직관적입니다: 예를 들어 "수신 고객 지원 요청 분류 처리"와 같이 작업을 한 문장으로 설명하면, 더 완성된 프롬프트 구조를 자동으로 생성합니다. Claude API 워크플로를 처음 구축하는 사용자에게는 템플릿을 찾아다니는 것보다 시간을 절약해 줍니다.
더 실용적인 사용법은 생성된 프롬프트를 기준 버전으로 삼고, 여기에 사용자의 필드 제약 조건, 출력 형식 및 경계 조건을 추가하는 것입니다. 이렇게 하면 이후 Claude API에서 A/B 테스트 튜닝을 할 때 훨씬 안정적입니다.
