7월 1일, CNBC 인터뷰 진행자가 알렉스 카프 팔란티어 CEO에게 물었습니다. "당신은 왜 그렇게 화가 났습니까?" 카프는 AI 업계를 두고 "말도 안 되게 미쳤다(effing insane)"고 했고, 진행자조차 그 격한 반응이 의외였던 모양입니다. 팔란티어 주가는 그날 9% 넘게 올랐습니다. 한 CEO의 분노가 시장을 움직였다는 뜻이기도 하고, 투자자들이 그 논리에서 무언가를 읽어냈다는 뜻이기도 합니다.

카프의 핵심 주장은 간단합니다. 프런티어 AI 기업들이 기업 고객에게 '부의 세금(wealth tax)'을 물리고 있다는 것입니다. 토큰 단위로 요금을 매기면서 정작 그 토큰이 고객 기업의 성과에 얼마나 기여하는지는 따지지 않는다는 지적입니다. 사석에서 만난 CEO들이 주요 AI 기업에 격분해 있다고도 했습니다. 이 발언은 팔란티어가 엔비디아와 소버린 AI 협력을 발표하는 자리에서 나왔고, 팔란티어는 엔비디아의 네모트론 모델을 정부·기업 계약의 저비용 대안으로 내세우고 있습니다.

카프의 분노 속에 있는 질문은, 사실 AI를 돈 내며 쓰는 모든 기업이 한 번쯤 짚어야 할 것입니다.

토큰이 많을수록 청구서도 커집니다

AI 서비스 과금에는 쓴 만큼 내는 토큰 단위 방식과, 사용자 수나 기능에 따른 고정 구독 방식이 있습니다. 현재 대부분의 프런티어 모델 API는 토큰 단위로 요금을 부과합니다. GPT-4o, Claude, Gemini 모두 입력 토큰과 출력 토큰을 각각 계산해 청구합니다. 개략적으로 말하면, A4 한 장 분량의 텍스트가 약 500개의 토큰에 해당합니다. 기업이 AI를 활발히 쓰기 시작하면 이 숫자는 금세 수십만, 수백만 단위로 불어납니다.

문제는 토큰이 성과를 보장하지 않는다는 데 있습니다. 열 번 질문하고 열 번 답을 받아도, 그 답이 실제 의사결정에 기여했는지는 별개입니다. 경영학에서 오래 다뤄온 원가-효익 분석의 출발점은 비용 규모 파악이 아니라, 그 비용이 어떤 가치와 연결되는지를 먼저 확인하는 것입니다. 토큰 과금 모델에서 이 연결고리는 전적으로 고객의 몫입니다. AI 기업은 토큰 수에 따라 청구서를 발행하고, 그 토큰이 가치를 만들었는지는 묻지 않습니다.

거기에 카프가 지적한 두 번째 문제가 더해집니다. 기업 고객이 AI를 쓸수록, 그 데이터와 사용 패턴이 AI 기업의 모델 학습에 기여한다는 것입니다. 고객은 돈을 내면서 동시에 서비스 개선의 원료를 공급하는 셈입니다. 이 과금 방식은 구조상 프런티어 AI 기업에 유리합니다.

카프의 발언을 그대로 믿기 어려운 이유

카프의 논리는 틀리지 않습니다. 하지만 그 발언이 나온 맥락을 함께 봐야 합니다.

팔란티어는 오픈AI, 앤스로픽, 구글 같은 프런티어 모델 기업과 경쟁하는 입장입니다. '저비용 대안'으로 시장을 파고드는 전략을 쓰는 회사가 '기존 프런티어 모델은 비싸고 고객에게 불리하다'고 목소리를 높인다면, 그것은 동시에 영업이기도 합니다. 인터뷰 당일 팔란티어 주가가 9% 이상 올랐다는 사실은, 카프의 발언이 시장에서 어떻게 소비되었는지를 한 줄로 보여줍니다.

또한 토큰 과금 자체가 기업에 무조건 불리한 것은 아닙니다. 초기 실험 단계의 1인 사업자나 소규모 팀에게 토큰 단위 과금은 고정비 없이 시작할 수 있는 방법이기도 합니다. AWS가 서버 인프라를 종량제로 제공하면서 스타트업들이 초기 자본 없이 서비스를 시작할 수 있게 된 것과 비슷한 논리입니다. 실제로 API 요금은 지난 2년 사이 크게 내렸고, 모델 성능은 올랐습니다. 오픈웨이트 모델의 부상과 중국 경쟁자들의 가격 압박이 프런티어 모델의 요금을 계속 낮추는 방향으로 작동하고 있습니다.

카프는 맞는 말을 하고 있지만, 그 말에는 이해관계가 얽혀 있습니다. 그 말 자체의 사실 여부와, 그 말이 나온 배경을 분리해서 들을 필요가 있습니다.

AI 비용을 감각에 맡겨두면 생기는 일

저는 이 논쟁에서 한국 1인 사업자·AI 도입 중간관리자에게 의미 있는 질문이 하나 있다고 말하고 싶습니다. "나는 내가 내는 AI 비용이 무엇에 연결되는지 지금 알고 있는가"입니다.

매달 나가는 AI 관련 비용 총액을 정확히 아는 사람은 생각보다 적습니다. API 요금, SaaS 구독, 플러그인 비용이 여러 카드와 계정에 분산되어 있는 경우가 많습니다. ChatGPT Plus 월정액은 인지하더라도, 별도로 연동한 API 사용량이나 다른 AI 도구 구독을 합산해 본 경우는 드뭅니다. 한 자리에서 합산해 본 적이 없다면, 그 금액이 예상보다 상당히 클 수 있습니다.

그 비용이 어떤 결과와 연결되는지를 추적하는 경우는 더 드뭅니다. 콘텐츠 제작 시간이 줄었는지, 고객 응대 속도가 빨라졌는지, 오류가 줄었는지. 숫자로 볼 수 없으면 감각으로 판단하게 됩니다. 감각 판단은 과금이 조금씩 오를 때 잘 알아채지 못합니다. AI 기업 입장에서 감각에 의존하는 고객은 편안한 고객입니다.

현재 쓰는 모델이 최선인지 주기적으로 따져보는 것도 필요합니다. 1년 전 기준으로 선택한 모델이 지금도 최적인 경우는 드뭅니다. 텍스트 분류, 간단한 요약, 루틴한 문서 작업 같은 용도에서 중간 티어 모델이나 오픈소스 대안이 프런티어 모델과 거의 같은 품질을 훨씬 낮은 비용에 제공하는 사례가 늘고 있습니다. 프런티어 모델을 쓰는 습관이 타성이 된 건 아닌지 따져볼 시점입니다.

카프의 발언이 아니었더라도 이 점검들은 해야 했습니다. 이번 논쟁이 그 타이밍을 당겼을 뿐입니다.

AI 비용을 감각이 아닌 수치로 관리할 때 성과와의 연결고리가 보입니다. 카프의 발언이 영업이라는 점을 감안하더라도, 그 안에 담긴 질문은 유효합니다. 내가 내는 토큰 비용이 어떤 성과로 돌아오는지를 지금 측정하고 있는지. 그 질문에 답할 수 있을 때, AI 기업의 청구서 앞에서 조금 더 명확한 판단이 가능해집니다.