claude-thermos

Claude Code는 대화 접두부를 5분 동안 캐시해 둡니다. 메인 에이전트가 그보다 오래 걸리는 서브에이전트를 기다리며 멈춰 있으면 캐시는 조용히 사라지고, 다음 턴에 대화 전체가 쓰기 요금으로 다시 인코딩됩니다. claude-thermos는 그 만료를 막는 파이썬 래퍼입니다.

claude 대신 uvx claude-thermos로 실행하면 CLI가 로컬 리버스 프록시 뒤에서 뜨고, /v1/messages 트래픽을 지켜보며 메인 에이전트의 캐시 접두부를 서브에이전트 것과 구분한 다음, 만료 전에 max_tokens를 1로 둔 요청을 다시 보내 접두부를 되살립니다. claude-thermos serve로 데몬을 띄우면 VSCode 확장과 여러 터미널이 워머 하나를 함께 씁니다. 유휴 판정 시간과 예열 주기, 횟수 상한을 조절하고, 세션마다 이벤트 로그와 절약한 토큰 집계가 남습니다. 만든 사람이 자기 로컬 세션 약 185건을 재어 본 결과, 이 재인코딩이 청구액의 22% 남짓을 차지했습니다. 필요한 것은 파이썬 3.11 이상과 PATH에 놓인 claude CLI뿐이고, 라이선스는 MIT입니다.