OpenClaw와 토큰 사용량 폭증 - AI 비서의 숨겨진 비용
TL;DR
OpenClaw 같은 24시간 AI 에이전트를 운영하면 토큰 사용량이 예상보다 훨씬 많이 나온다. 지인 중에는 하루에 1억 토큰을 쓰는 사람도 있다. 왜 이렇게 많이 나오는지, 어떻게 관리할 수 있는지 정리해본다.
OpenClaw란?
OpenClaw는 Claude 같은 LLM을 24시간 개인 비서로 만들어주는 오픈소스 프로젝트다. 텔레그램, 디스코드, 왓츠앱 등 메신저로 AI와 대화할 수 있다.
단순한 챗봇이 아니다:
- 도구 사용 - 파일 읽기/쓰기, 웹 검색, 시스템 명령 실행
- 메모리 - 대화 내용을 기억하고 다음 세션에 활용
- Cron 작업 - 정해진 시간에 자동으로 작업 수행
- 멀티 채널 - 여러 메신저에서 동시에 사용
편리하다. 하지만 이 편리함에는 대가가 있다.
왜 토큰이 폭증하는가?
1. 거대한 시스템 프롬프트
OpenClaw는 매 요청마다 시스템 프롬프트를 함께 보낸다:
AGENTS.md- 에이전트 행동 규칙SOUL.md- 페르소나 정의MEMORY.md- 장기 기억USER.md- 사용자 정보- 도구(Tools) 스키마 - 사용 가능한 도구 정의
이게 합쳐지면 수천~수만 토큰이 된다. "안녕"이라고 보내도 시스템 프롬프트가 먼저 들어간다.
2. 컨텍스트 누적과 압축
대화가 길어질수록 이전 대화 내용이 컨텍스트에 쌓인다. OpenClaw는 auto-compaction으로 관리하지만, 그래도 한 사이클에서 10~20만 토큰을 쓰는 건 흔한 일이다.
솔직한 고백: 컨텍스트가 크다고 다 기억하는 건 아니다. 압축이 자주 일어나서 몇 시간 전 대화도 까먹는 경우가 빈번하다. 압축 과정에서 상세한 맥락이 손실되기 때문이다. 그래서 중요한 정보는 MEMORY.md 같은 파일에 명시적으로 저장해야 한다.
그리고 MEMORY.md는 압축 대상이 아니다. 매 요청마다 시스템 프롬프트에 포함된다. 즉, MEMORY.md가 커지면 매번 그만큼 토큰을 소비한다.
3. 도구 호출
"파일 읽어줘"라고 하면:
- AI가
read도구 호출 결정 (출력 토큰) - 파일 내용이 컨텍스트에 추가 (입력 토큰)
- AI가 결과 설명 (출력 토큰)
한 번의 요청이 여러 번의 토큰 소비로 이어진다.
4. Cron 작업
정기적으로 실행되는 작업들:
- Heartbeat 체크 (30분마다)
- 이메일 확인
- 알림 전송
각각이 별도 세션으로 토큰을 소비한다.
커뮤니티 반응
OpenClaw GitHub에는 비용 관련 이슈들이 올라오고 있다:
"세션별 비용 추적 기능이 필요해요" (#12299)
"일일 비용 모니터링, cron job별 비용 추적, 예산 알림이 필요합니다"
사람들이 비용 관리에 어려움을 겪고 있다는 증거다.
"Anthropic 크레딧 소진 후 Grok으로 전환" (#12165)
"Grok is 15x cheaper ($0.20/$0.50 vs $3/$15 per M tokens)"
비용 절감을 위해 모델을 전환하는 사례. Claude Opus/Sonnet 대신 저렴한 모델을 쓰려는 시도들이 있다.
/total_usage 명령 개선 (#11901)
시간 단위별, 모델별 사용량 분석 기능이 추가되고 있다. 그만큼 수요가 있다는 뜻이다.
실제 사용량은 얼마나?
내 경우 OpenClaw를 본격적으로 사용한 첫날:
- 하루 동안 수백만 토큰 소비
- Claude Opus 기준 수십 달러 규모
그리고 지인 중에는 하루에 1억 토큰을 쓰는 사람도 있다. 월 수천 달러 규모다.
물론 이건 극단적인 예시다. 가볍게 쓰면 하루 10~50만 토큰 정도로도 충분하다.
비용 절감 팁
1. Prompt Caching 활용
Anthropic은 Prompt Caching을 지원한다. 시스템 프롬프트 같은 반복 내용을 캐시하면:
- 캐시 히트 시 1/10 가격
- 첫 요청은 비싸지만, 이후 요청은 저렴
실제로 캐시 적용 후 75% 비용 절감을 경험했다.
2. 모델 선택
용도에 맞는 모델 사용:
- 단순 작업: Haiku ($0.25/$1.25 per M)
- 복잡한 작업: Sonnet ($3/$15 per M)
- 최고 품질: Opus ($15/$75 per M)
모든 작업에 Opus를 쓸 필요 없다.
3. Cron 작업 최적화
- Heartbeat 간격 늘리기 (5분 → 30분)
- 불필요한 정기 작업 제거
- 저렴한 모델로 cron 작업 실행
4. 컨텍스트 관리
- 대화가 길어지면 새 세션 시작
- MEMORY.md를 주기적으로 정리
- 불필요한 도구 정의 제거
결론
OpenClaw는 강력한 도구다. 하지만 "24시간 AI 비서"는 "24시간 API 비용"을 의미하기도 한다.
사용 전에 비용 구조를 이해하고, 캐싱과 모델 선택으로 최적화하는 게 중요하다.
팁: /status 명령으로 현재 세션 토큰 사용량을 확인할 수 있다.