메시지 스레드로 장시간 실행되는 에이전트의 응답 속도 높이기
TMTClaude Platform에서 메시지 스레드(message threads)의 공개 베타를 사용할 수 있습니다. 메시지 스레드를 사용하면 에이전트가 매 턴마다 전체 대화 이력을 다시 보낼 필요가 없어, 오래 이어지는 세션의 지연 시간을 줄일 수 있습니다.
메시지 스레드의 작동 방식
코딩 에이전트는 한 세션에서 수백 번 요청을 보낼 수 있으며, 요청할 때마다 이전의 모든 메시지와 도구 실행 결과를 다시 전송합니다. 대화가 수십만 토큰에 이르면 이 모든 내용을 다시 보내느라 Claude가 응답을 시작하기까지 시간이 더 걸립니다. 메시지 스레드를 사용하면 에이전트는 이전 턴 이후에 추가된 내용만 보내므로, 첫 토큰이 도착하기까지의 시간(TTFT)을 줄일 수 있습니다.
현재 대부분의 Claude Code 사용자는 메시지 스레드를 기본으로 사용하며, 50만~100만 토큰 규모의 요청에서 TTFT 중앙값이 약 35% 줄어듭니다.
메시지 스레드를 사용하려면 Messages API 요청에 thread 매개변수를 추가합니다. 첫 요청에는 전체 대화를 담아 스레드를 시작합니다. 이후 요청에는 새 메시지와 이전 응답의 ID만 포함합니다. 요청과 요청 사이에는 각 스레드를 메모리에 암호화된 상태로 보관하며, 디스크에는 기록하지 않습니다. 마지막 요청 후 5분이 지나면 스레드가 만료되고, 클라이언트는 전체 대화를 다시 보내 새 스레드를 시작합니다. 메시지 스레드를 사용하면 요청 크기는 줄어들지만, Claude는 여전히 매 턴마다 전체 대화를 읽으므로 토큰 사용량은 달라지지 않습니다.
메시지 스레드는 다음과 같이 요청이 계속 오가며 지연 시간이 중요한 세션에 특히 적합합니다.
- 장시간 실행되는 코딩 에이전트: 도구 실행 결과나 파일 수정 내역이 생길 때마다 대화에 내용이 추가됩니다.
- 컴퓨터 사용 에이전트: 매 턴마다 스크린샷을 다시 업로드하는 대신 스레드에 유지할 수 있습니다.
- 문서와 이미지를 많이 다루는 워크플로: 요청 크기를 줄일 수 있습니다.
에이전트가 유지하는 컨텍스트가 많을수록 메시지 스레드를 통해 첫 토큰이 도착하기까지의 시간을 더 줄일 수 있습니다.
시작하기
메시지 스레드는 현재 Claude Platform에서 공개 베타로 제공되며, Claude Platform on AWS, Claude in Microsoft Foundry, Claude Models on Google Cloud(Anthropic 관리형)에서도 사용할 수 있습니다. Claude의 표준 토큰 요금과 기존 요청 한도가 적용됩니다. 시작하려면 문서를 참고하세요.