예상하지 못한 청구서
매일 업무에 Claude나 ChatGPT를 사용하는 사람 중에는 실제로 무엇에 돈을 내고 있는지 한 번도 살펴보지 않은 경우가 많습니다. 월간 구독료를 내거나 잔액이 조용히 줄어드는 API 키를 사용하면서, 숫자가 움직이는 속도는 예상보다 느릴 때도 있고 훨씬 빠를 때도 있습니다. AI를 활용한 업무가 적었던 한 주의 비용이 많았던 한 주보다 더 많이 나온 적이 있다면, 답은 거의 항상 AI가 "비싸기" 때문이 아닙니다. 대개는 무엇을 묻는지만이 아니라 무엇을 보내는지와 관련이 있습니다.
이 글에서는 실제 계산 방식을 전문 용어 없이 쉬운 말로 설명합니다. 비용이 실제로 어디에서 발생하는지, 해결책이 "AI를 덜 사용하기"가 아니라 "메시지를 보낼 때마다 매번 자신을 다시 설명하는 데 돈을 지불하지 않기"인 이유를 알 수 있습니다.
토큰을 쉽게 설명하면
여러분이 보내는 모든 메시지와 받는 모든 답변은 토큰이라는 작은 단위로 나뉩니다. 대략적으로 토큰 하나는 단어의 약 4분의 3에 해당하므로, 텍스트 1,000단어는 대략 1,300-1,400토큰입니다. 짧은 단어, 흔한 구문, 코드는 단어당 더 적은 토큰으로 압축되는 경우가 많고, 드문 단어, 서식, 영어 이외의 텍스트는 더 많이 사용할 수 있습니다.
사람들이 이 점을 처음 생각할 때 헷갈리는 부분은 두 가지입니다.
- 양쪽 방향 모두 계산됩니다. 여러분이 입력하는 단어와 AI가 다시 작성하는 단어가 모두 과금되거나 사용량으로 계산됩니다. 같은 질문이라도 한 줄짜리 답변보다 길고 자세한 답변이 더 많은 비용이 듭니다.
- 모든 메시지는 전체 대화를 다시 전송합니다. 대부분의 사람들이 내용을 정리해서 보기 전까지는 거의 깨닫지 못하는 부분입니다. 채팅 기반 AI 모델은 인간 동료처럼 메시지 사이에 지속적인 기억을 갖고 있지 않습니다. 문맥에 맞는 답변을 생성하려면 시스템이 지금까지의 전체 대화, 즉 첫 메시지와 첫 답변, 두 번째 메시지와 두 번째 답변 등을 전송 버튼을 누를 때마다 매번 다시 읽어야 합니다.
"그냥 대화하기"가 대화가 길어질수록 비싸지는 이유
이제 실제로 중요한 부분입니다. 실제 업무 대화처럼 짧게 시작해 자연스럽게 길어지는 대화를 떠올려 보세요.
- 메시지 1: 문맥 200단어를 보내고 150단어를 답변으로 받습니다.
- 메시지 2: 이제 시스템은 메시지 1과 새 메시지를 처리한 다음 다시 답해야 합니다.
- 메시지 3: 메시지 1과 2에 새 메시지를 더해 다시 처리합니다.
메시지 10개쯤 되면 "새 질문 하나"에 돈을 내는 것이 아닙니다. 그때까지의 모든 내용을 매번 다시 전송하는 데 비용을 지불하는 것입니다. 대화 기록은 누적되며 저절로 초기화되거나 압축되지 않습니다. 20턴 대화가 10턴 대화보다 비용이 두 배인 것이 아닙니다. 다시 전송되는 효과 때문에 실제로 메시지마다 추가되는 "새" 내용의 크기가 거의 같더라도 비용이 몇 배 더 들 수 있습니다.
이는 방향을 보여 주기 위한 계산이지 가격표가 아닙니다. 제공업체는 토큰당 요금을 직접 정하고 변경하므로, 요금제의 정확한 금액이 필요하다면 언제나 제공업체 사이트(anthropic.com 또는 openai.com)에 게시된 최신 가격을 확인해야 합니다. 하지만 요금과 관계없이 메커니즘은 동일합니다. 토큰당 비용이 적당한 수준이라도, 점점 길어지는 대화 기록에 곱해지면 빠르게 누적됩니다. 핵심 변수는 요금이 아닙니다. 다시 전송하는 내용의 크기입니다.
실제로 낭비가 발생하는 곳
이제 대부분의 사람이 실제로 일하는 방식을 생각해 보겠습니다. 이메일 초안 작성, 통화 요약, 스프레드시트 분석, 브리프 작성, 계약 조항 검토 같은 AI 지원 작업을 하는 일반적인 지식 근로자는 매 작업을 백지에서 시작하지 않습니다. 매번 다음 내용을 다시 설명합니다.
- "당신은 숙련된 [role]입니다. 시니어 [X]처럼 행동하세요. 다음은 우리 브랜드 보이스, 우리 팀의 맥락, 우리가 선호하는 형식입니다..."
- 회사, 프로젝트, 대상 독자, 제약 조건에 대한 배경 정보.
- 어제 입력한 것과 똑같은 어조와 스타일 지시, 그리고 그저께 입력한 지시까지도요.
이 중 어느 것도 해당 작업에 새로 필요한 정보는 아닙니다. 전부 상투적인 내용입니다. 하지만 이 내용을 채팅 창에 새로 입력하거나(더 나쁘게는 하나의 길고 장황한 대화 속에서 자연스럽게 계속 덧붙이면) 매번 집계되고, 다시 전송되고, 다시 비용이 청구됩니다.
설명을 위한 예시: 하루 10가지 작업, 두 가지 방식
같은 날의 업무를 두 가지 방식으로 진행한다고 가정해 비교해 보겠습니다. AI가 특정 유형의 전문가로 행동해야 하는 AI 지원 작업 10가지입니다(예를 들어 캠페인 수치를 검토하는 마케팅 분석가나 프로세스 문서를 다듬는 운영 관리자).
접근 방식 A: 임시로 다시 입력하는 prompts
10가지 작업을 각각 시작할 때마다 사용자는 역할 설정을 설명하는 한두 단락을 다시 입력하거나(또는 예전 문서에서 복사해 붙여넣거나) 합니다. "당신은 어트리뷰션과 캠페인 ROI를 전문으로 하는 시니어 마케팅 분석가입니다. 다음 데이터를 분석하고 권장 사항이 포함된 구조화된 요약을 작성해 주세요..." 그런 다음 실제 작업을 입력합니다. 이후 같은 스레드에서 내용을 명확히 하거나 다듬기 위한 후속 메시지를 몇 개 더 보내는 경우가 많고, 그때마다 앞선 모든 내용을 다시 전송합니다. 이 상투적인 문구와 후속 메시지 패턴을 10개의 개별 작업에 걸쳐 반복하면, 사실상 같은 지시를 하루 종일, 매일 수십 번씩 다시 비용을 지불하는 셈입니다.
접근 방식 B: 간결한 스킬 파일 기반 설정
역할, 어조, 기준, 작업 방식은 간결한 시스템 prompt, 즉 "스킬 파일"로 한 번 신중하게 작성해 세션 시작 시 불러오므로 다시 입력할 필요가 없습니다. 처음에 한 번만 제공하고, 군더더기나 중복 지시 없이 간결하게 유지하며, 해당 역할의 모든 작업에서 재사용합니다. 사용자는 작업만 말하면 됩니다. AI가 어떤 존재여야 하는지, 답변 형식을 어떻게 지정할지, "좋은 결과"가 무엇인지 다시 설명할 필요가 없습니다. 이 모든 내용이 이미 상단에 간결하게 고정되어 있습니다.
토큰 계산의 차이는 Approach B에서 AI가 "더 열심히 작업하기" 때문이 아닙니다. 모든 메시지에서 반복되는 상용구 부분이 크게 줄어들기 때문입니다. 모든 작업의 모든 메시지에서, 매일 메시지마다 다시 전송되는 상용구가 줄어들며, 이는 대화가 계속 늘어나는 문제와 마찬가지로 빠르게 누적되지만 방향은 반대입니다.
Claude 또는 ChatGPT를 고위 마케팅 분석가로 바꾸는 미리 만들어진 시스템 prompt입니다 - 캠페인 ROI, 기여도 분석, 보고 기준을 한 번만 설정하므로, 새 수치를 붙여넣을 때마다 역할을 다시 설명할 필요가 없습니다.
Rafa - 마케팅 분석 전문가 보기 →잘 만들어진 Skill 파일이 임시 prompt보다 나은 이유
모든 "재사용 가능한 prompts"가 이 문제를 해결하는 것은 아닙니다. 막연한 지침을 "혹시 모르니" 다섯 페이지나 담은 비대하고 지나치게 일반적인 시스템 prompt는 다시 입력하는 것만큼 낭비가 될 수 있습니다. 매번 메시지마다 여전히 상용구가 다시 전송되기 때문이며, 매번 새로 입력하는 대신 한 번 붙여넣는 것에 불과합니다. 실제로 중요한 지렛대는 간결함입니다. 역할이 무엇인지, 출력을 어떻게 형식화할지, "완료"가 무엇을 의미하는지 정확히 말하는 Skill 파일을 세션마다 한 번만 처음에 제공하고, 그 외에는 아무것도 넣지 않는 것입니다.
Skill 파일과 계속 다시 작성해야 하는 단순한 prompt의 진정한 차이는 편의성에만 있지 않습니다. 보내는 모든 메시지에서 반복되는 부분을 작업 세션 전체에 걸쳐 영구적으로 줄이는 데 있습니다.
Claude 또는 ChatGPT를 고위 운영 관리자로 구성하세요 - SOP, 프로세스 감사, 우선순위 설정 프레임워크를 기본으로 제공하므로, 새로운 작업을 시작할 때마다 운영 맥락을 처음부터 다시 설명하지 않아도 됩니다.
Owen - 운영 관리자 보기 →실제로 큰 차이를 만드는 실용적인 습관
어떤 도구나 요금제를 사용하든, 몇 가지 습관만으로도 "숨은 재전송 비용"을 무엇보다 크게 줄일 수 있습니다.
- 새 작업은 새로운 대화에서 시작하세요. 하나의 대화에 계속 내용을 쌓지 마세요. 새롭고 집중된 대화에서는 메시지마다 훨씬 적은 대화 기록을 다시 전송합니다.
- 역할과 맥락은 처음에 한 번만 간결하게 제시하고, 매번 작업 자체 안에서 다시 설명하지 마세요.
- 처음에 제공하는 지침은 간결하게 유지하세요. 길고 장황한 시스템 prompt도 매번 다시 전송되는 상용구이므로, 실제로 출력에 변화를 주는 내용만 남기고 줄이세요.
- 실제로 필요한 출력 길이를 요청하세요. 출력 토큰도 계산되므로, "구조화된 요약을 제공해 줘"가 "이 내용에 대해 전부 말해 줘"처럼 범위가 정해지지 않은 요청보다 비용이 적게 드는 경향이 있습니다.
- 정확한 비용을 산정하려면 현재 게시된 가격을 제공업체에서 직접 확인하세요 - 요금과 모델은 변경되므로, 정확한 수치는 제3자 추정치보다 출처에서 직접 확인하는 것이 가장 좋습니다.
반복적이고 체계적인 작업을 위해 제작된 구성형 operations agent skill - 새로운 요청이 들어올 때마다 불어나는 대신 지침을 간결하고 일관되게 유지하도록 설계되었습니다.
Arthur 보기 - AI Operations Agent →여러분 또는 팀이 실제로 AI 채팅을 사용하는 방식을 입력하고, 다시 prompt를 작성하는 경우와 지속적으로 사용하는 skill 파일의 월간 토큰 낭비 및 비용을 실제로 추정해 보세요. 가입이나 이메일 없이, 이 게시물의 계산을 여러분의 수치에 적용하기만 하면 됩니다.
계산기 사용해 보기 →자주 묻는 질문
AI의 답변에도 비용을 내야 하나요, 제가 보낸 메시지만이 아니라?
그렇습니다. 보내는 내용과 돌려받는 내용이 모두 집계됩니다. 기본적으로 길고 자세한 답변을 작성하는 모델은 정확히 같은 질문이라도 짧고 집중된 답변을 작성하는 모델보다 출력 토큰을 더 많이 사용합니다.
같은 작업인데 긴 대화가 짧은 대화보다 훨씬 더 비싼 이유는 무엇인가요?
대부분의 채팅 기반 AI 도구는 기본적으로 메시지 간 기억을 유지하지 않기 때문입니다 - 20번째 메시지에 적절히 답하려면 시스템이 처음 19개의 메시지와 자체 답변 19개를 함께 다시 처리해야 합니다. 대화 기록은 매번 전부 다시 전송되므로 비용은 대화 길이 자체보다 훨씬 빠르게 증가하는 경향이 있습니다.
skill 파일은 저장된 prompt를 멋지게 부르는 이름일 뿐인가요?
기능적으로는 그렇습니다 - 한 번 작성해 재사용하는 system prompt 또는 프로젝트 지침입니다. 좋은 것과 그때그때 작성하는 prompt를 구분하는 것은 규율입니다. 역할, 기준, 출력 형식을 정확하고 간결하게 명시하므로 매 메시지와 함께 다시 전송되는 "상투적인" 부분을 제 역할을 하면서도 가능한 한 작게 유지합니다.
정확한 달러 금액을 걱정해야 하나요, 아니면 행동만 신경 쓰면 되나요?
먼저 행동에 집중하세요 - 반복되는 컨텍스트를 줄이고 새로운 작업마다 새 대화를 시작하면 이번 달 토큰당 요금이 어떻게 되든 사용량이 줄어듭니다. 자신의 사용량에 따른 정확한 비용을 계산하고 싶다면 제공업체의 요금 페이지에서 현재 공개된 요금을 확인한 뒤 평소 메시지 수를 기준으로 계산하세요.
