이 페이지
예상하지 못한 청구서
매일 업무에 Claude나 ChatGPT를 사용하는 사람들 대부분은 자신이 실제로 무엇에 비용을 지불하는지 살펴본 적이 없습니다. 월간 구독료를 내거나, 잔액이 조용히 줄어드는 API 키를 사용하면 숫자가 움직입니다. 때로는 예상보다 느리게, 때로는 훨씬 빠르게 말입니다. AI를 활용한 업무가 적었던 한 주의 비용이 많았던 한 주보다 더 높았던 이유가 궁금했던 적이 있다면, 답은 거의 언제나 AI가 "비싸기" 때문이 아닙니다. 보통은 무엇을 묻는지가 아니라 무엇을 보내는지에 달려 있습니다.
이 글에서는 실제 계산을 쉬운 말로, 전문 용어 없이 설명합니다. 비용이 실제로 어디서 발생하는지, 그리고 해결책이 "AI를 덜 사용하기"가 아니라 "메시지를 보낼 때마다 매번 자신을 다시 설명하는 데 돈을 내지 않기"인 이유를 확인할 수 있습니다.
토큰을 쉬운 말로 설명하면
여러분이 보내는 모든 메시지와 받는 모든 답변은 토큰이라는 작은 단위로 나뉩니다. 대략적으로 토큰 하나는 단어의 약 4분의 3 정도이므로, 텍스트 1,000단어는 대략 1,300-1,400토큰입니다. 짧은 단어, 흔한 표현, 코드는 단어당 토큰 수가 더 적게 압축되는 경우가 많고, 생소한 단어, 서식, 영어가 아닌 텍스트는 더 많이 사용할 수 있습니다.
사람들이 이 내용을 처음 생각해 볼 때 혼동하는 점은 두 가지입니다.
- 양방향 모두 계산됩니다. 사용자가 입력하는 단어와 AI가 다시 작성하는 단어는 모두 요금이 부과되거나 사용량으로 집계됩니다. 같은 질문이라도 한 줄짜리 답변보다 길고 자세한 답변이 더 비쌉니다.
- 모든 메시지는 전체 대화를 다시 전송합니다. 대부분의 사람들이 실제로 전개된 내용을 보기 전까지는 거의 깨닫지 못하는 부분입니다. 채팅 기반 AI 모델은 인간 동료처럼 메시지 사이에 지속적인 기억을 유지하지 않습니다. 맥락에 맞는 답변을 생성하려면 시스템이 전송 버튼을 누를 때마다 지금까지의 전체 대화를 다시 읽어야 합니다. 첫 메시지, 첫 답변, 두 번째 메시지, 두 번째 답변 등을 전부 말입니다.
"그냥 대화하기"가 대화가 길어질수록 비싸지는 이유
여기서 실제로 중요한 부분입니다. 실제 업무 대화처럼 짧게 시작해 자연스럽게 길어지는 대화를 떠올려 보세요.
- 메시지 1: 문맥 200단어를 보내고 150단어를 답변으로 받습니다.
- 메시지 2: 이제 시스템은 메시지 1과 새 메시지를 처리한 다음 다시 답해야 합니다.
- 메시지 3: 메시지 1과 2, 그리고 새 메시지를 다시 처리합니다.
메시지 10번째가 되면 "새 질문 하나"에 돈을 내는 것이 아닙니다. 매번 그전에 오간 모든 내용을 다시 전송하는 데 돈을 내는 것입니다. 대화 기록은 누적되며, 저절로 초기화되거나 압축되지 않습니다. 20턴 대화가 10턴 대화보다 비용이 두 배인 것은 아닙니다. 재전송 효과 때문에 실제로는 몇 배 더 비쌀 수 있습니다. 메시지마다 새로 추가되는 내용의 실제 분량은 거의 같아도 말입니다.
이는 가격표가 아니라 방향을 보여 주는 계산입니다. 제공업체는 토큰당 요금을 직접 정하고 변경하므로, 요금제에 대한 정확한 수치를 알고 싶다면 항상 제공업체 사이트(anthropic.com 또는 openai.com)에 게시된 최신 가격을 확인해야 합니다. 하지만 요율과 관계없이 메커니즘은 동일합니다. 적당한 토큰당 비용이라도 점점 길어지는 대화 기록에 곱해지면 빠르게 누적됩니다. 핵심 레버는 요율이 아닙니다. 다시 전송하는 내용의 크기입니다.
낭비가 실제로 발생하는 곳
이제 대부분의 사람이 실제로 일하는 방식을 생각해 보세요. AI 지원 작업을 수행하는 일반적인 지식 근로자, 즉 이메일을 작성하고, 통화를 요약하고, 스프레드시트를 분석하고, 브리프를 작성하고, 계약 조항을 검토하는 사람은 매 작업을 백지상태에서 시작하지 않습니다. 매번 다음과 같은 내용을 다시 설명합니다.
- "귀하는 숙련된 [role]입니다. 시니어 [X]처럼 행동하세요. 다음은 우리 브랜드 보이스 / 팀의 맥락 / 서식 기본 설정입니다..."
- 회사, 프로젝트, 대상 독자, 제약 조건에 관한 배경 정보.
- 어제 입력한 것과 동일한 어조 및 스타일 지시, 그리고 그 전날 입력한 지시.
이 중 어느 것도 해당 작업에 새로운 정보는 아닙니다. 모두 상투적인 문구입니다. 하지만 이 내용을 채팅창에 새로 입력하거나, 더 나쁘게는 하나의 길고 장황한 대화 속에서 자연스럽게 쌓아 가면, 매번 그 내용이 집계되고 다시 전송되며 다시 청구됩니다.
예시: 하루 10개 작업, 두 가지 방법
같은 하루의 업무를 두 가지 방식으로 비교해 보겠습니다. AI 지원 작업 10개를 수행하며, 각 작업에서 AI가 특정 유형의 전문가 역할을 맡아야 하는 경우입니다. 예를 들어 캠페인 수치를 검토하는 마케팅 분석가나 프로세스 문서를 정비하는 운영 관리자처럼요.
접근법 A: 즉석에서 다시 입력하는 prompts
10개 작업 각각을 시작할 때마다 사용자는 역할 설정을 한두 문단씩 다시 입력하거나 기존 문서에서 복사해 붙여넣습니다. "귀하는 어트리뷰션과 캠페인 ROI 전문성을 갖춘 시니어 마케팅 분석가입니다. 다음 데이터를 분석하고 권장 사항이 포함된 구조화된 요약을 작성해 주세요..." 그런 다음 실제 작업을 입력합니다. 이후에도 같은 스레드 안에서 내용을 명확히 하거나 다듬기 위한 후속 메시지를 몇 개 보내는 경우가 많고, 그때마다 위의 모든 내용이 다시 전송됩니다. 이 상투적인 문구와 후속 메시지 패턴을 10개의 개별 작업에 걸쳐 반복하면, 사실상 같은 지시를 하루 종일, 매일 수십 번씩 다시 비용을 지불하게 됩니다.
접근법 B: 간결한 skill-file 기반 설정
역할, 어조, 기준, 작업 방식은 간결한 시스템 prompt, 즉 "skill file"로 신중하게 한 번 작성한 뒤 세션 시작 시 불러오므로 매번 다시 입력할 필요가 없습니다. 처음에 한 번만 설정하고, 군더더기나 중복 지시 없이 간결하게 유지하며, 해당 역할의 모든 작업에 재사용합니다. 사용자는 작업만 말하면 됩니다. AI가 어떤 존재여야 하는지, 답변 형식을 어떻게 지정할지, "좋은 결과"가 무엇인지 다시 설명할 필요가 없습니다. 이 모든 것이 상단에 간결하게 고정되어 있기 때문입니다.
토큰 계산의 차이는 Approach B에서 AI가 더 "열심히 작업"하기 때문이 아닙니다 - 모든 메시지에서 반복되는 상용구 부분이 크게 줄어들기 때문입니다. 모든 작업의 모든 메시지에서, 매일 매일, 메시지마다 다시 전송되는 상용구가 줄어들며 - 이는 대화가 계속 늘어나는 문제와 마찬가지로 빠르게 누적되지만, 반대 방향으로 작용합니다.
Claude 또는 ChatGPT를 선임 마케팅 분석가로 전환하는 사전 제작 시스템 prompt입니다 - 캠페인 ROI, 어트리뷰션, 보고 기준을 한 번에 설정하므로 새 수치를 붙여 넣을 때마다 역할을 다시 설명할 필요가 없습니다.
Rafa - 마케팅 분석 전문가 보기 →잘 만든 Skill 파일이 임시 prompt보다 뛰어난 이유
모든 "재사용 가능한 prompts"가 이 문제를 해결하는 것은 아닙니다. 지나치게 비대하고 일반적인 시스템 prompt - "혹시 몰라서" 넣은 모호한 지침 다섯 페이지 - 는 매번 새로 입력하는 것만큼 낭비가 클 수 있습니다. 매번 새로 입력하는 대신 한 번 붙여 넣을 뿐, 여전히 모든 메시지마다 전송되는 상용구이기 때문입니다. 실제로 중요한 지렛대는 간결성입니다. 역할이 무엇인지, 출력을 어떻게 형식화할지, "완료"가 무엇을 의미하는지를 정확히 말하는 Skill 파일 - 그 이상은 아무것도 없는 내용 - 을 세션당 한 번 처음에 제시하는 것입니다.
Skill 파일과 계속 다시 작성해야 하는 단순한 prompt의 진정한 차이는 편의성에만 있지 않습니다. 보내는 모든 메시지에서 반복되는 부분을 작업 세션 전체에 걸쳐 영구적으로 줄이는 데 있습니다.
Claude 또는 ChatGPT를 선임 운영 관리자로 설정합니다 - SOP, 프로세스 감사, 우선순위 설정 프레임워크가 내장되어 있어 새로운 작업을 시작할 때마다 운영 맥락을 처음부터 다시 설명할 필요 없이 간결하게 시작할 수 있습니다.
Owen - 운영 관리자 보기 →실제로 큰 차이를 만드는 실용적인 습관
어떤 도구나 요금제를 사용하든, 다음과 같은 몇 가지 습관이 "숨은 재전송 비용"을 줄이는 데 가장 효과적입니다.
- 새 작업은 새 대화에서 시작하세요. 모든 내용을 계속 늘어나는 하나의 스레드에 쌓지 마세요. 새롭고 집중된 대화에서는 메시지마다 다시 전송되는 이전 기록이 훨씬 적습니다.
- 역할과 맥락은 처음에 한 번만 간결하게 제시하고, 매번 작업 자체에서 다시 설명하지 마세요.
- 처음부터 제공하는 지침은 간결하게 유지하세요. 길고 장황한 시스템 prompt도 매번 다시 전송되는 상용구입니다 - 실제로 출력에 변화를 주는 내용만 남기고 줄이세요.
- 실제로 필요한 출력 길이를 요청하세요. 출력 토큰도 비용에 포함되며, "구조화된 요약을 제공해 줘"라고 요청하는 편이 자유 형식의 "이 내용에 대해 전부 말해 줘"보다 비용이 적게 드는 경향이 있습니다.
- 정확한 비용을 계산하려면 현재 게시된 가격을 제공업체에서 직접 확인하세요 - 요금과 모델은 변경되므로, 정확한 수치는 제3자 추정치보다 출처에서 직접 확인하는 것이 가장 좋습니다.
반복적이고 구조화된 작업을 위해 만들어진, 설정이 완료된 운영 agent skill입니다 - 새로운 요청이 늘어날 때마다 지침이 불어나지 않도록 간결하고 일관되게 유지하도록 설계되었습니다.
Arthur 보기 - AI 운영 agent →본인 또는 팀이 실제로 AI 채팅을 사용하는 방식을 입력하고, 지속적으로 사용하는 skill 파일과 매번 프롬프트를 다시 입력하는 방식의 월간 토큰 낭비 및 비용을 실제로 추정해 보세요. 가입이나 이메일 없이, 이 게시물의 계산 방식을 여러분의 수치에 적용해 결과를 확인할 수 있습니다.
계산기 사용해 보기 →자주 묻는 질문
정말 제가 보낸 메시지만이 아니라 AI의 답변에도 비용을 지불하나요?
그렇습니다. 보내는 내용과 돌려받는 내용 모두 계산에 포함됩니다. 기본적으로 길고 철저한 답변을 작성하는 모델은 똑같은 질문에 대해서도 간결하고 핵심적인 답변을 작성하는 모델보다 더 많은 출력 토큰을 사용합니다.
같은 작업인데 긴 대화가 짧은 대화보다 훨씬 더 비싼 이유는 무엇인가요?
대부분의 채팅 기반 AI 도구는 기본적으로 메시지 간 메모리를 유지하지 않기 때문입니다 - 20번째 메시지에 합리적으로 답하려면 시스템은 처음 19개의 메시지와 자체 답변 19개를 함께 다시 처리해야 합니다. 대화 기록은 매번 전체가 다시 전송되므로 비용은 대화 길이 자체보다 훨씬 빠르게 증가하는 경향이 있습니다.
skill 파일은 저장해 둔 프롬프트를 멋지게 부르는 이름일 뿐인가요?
기능적으로는 그렇습니다 - 한 번 작성해 두고 재사용하는 system prompt 또는 프로젝트 지침입니다. 좋은 것이 즉석에서 만든 프롬프트와 다른 점은 규율입니다. 역할, 기준, 출력 형식을 정확하고 간결하게 명시하므로, 매 메시지와 함께 다시 전송되는 "상투적인 내용"을 제 역할을 할 수 있을 만큼만 최대한 작게 유지합니다.
정확한 금액을 걱정해야 하나요, 아니면 사용 방식만 신경 쓰면 되나요?
먼저 사용 방식에 집중하세요 - 반복되는 컨텍스트를 줄이고 새로운 작업마다 새 대화를 시작하면 이번 달 토큰당 요금이 얼마든 사용량을 줄일 수 있습니다. 직접 사용하는 규모에 따른 정확한 비용을 계산하고 싶다면 제공업체의 가격 페이지에서 현재 공개된 요금을 확인한 뒤, 평소 메시지 수를 기준으로 계산하세요.