올해 5월, 실리콘밸리의 한 AI 인프라 스타트업이 구글 모기업 산하 성장 투자 펀드로부터 1억 1,300만 달러를 투자받았습니다. 밸류에이션은 1년 사이 두 배를 넘겨 13억 달러에 도달했습니다. 이 회사는 AI 모델을 직접 만들지도, 콘텐츠를 유통하지도 않습니다. 수백 개의 AI 모델 사이에서 사용자 요청을 연결해 주는 라우터 역할을 합니다. 많은 이들이 이 소식에서 주목한 것은 밸류에이션 수치만이 아니었습니다. 지난 6개월 동안 API 사용량이 다섯 배 늘었다는 숫자가 더 많은 관심을 끌었습니다. 어떤 AI 모델을 언제 쓸지 고르는 판단 자체가 비즈니스로 성립하는 시대가 오고 있다는 신호였습니다.

200개 모델 사이에서 일어나는 일

OpenRouter는 GPT-4o, Claude, Gemini, Llama를 포함한 200개 이상의 AI 모델을 단일 API 창구로 묶어주는 서비스입니다. 개발자나 기업이 요청을 보내면, 플랫폼이 요청의 성격, 비용, 응답 속도를 가늠해 그 순간 가장 적합한 모델로 연결합니다. 특정 모델에 장애가 생기면 자동으로 다른 모델로 전환합니다. 사용자는 모델을 직접 지정하거나, 우선순위 기준만 설정해 플랫폼이 판단하도록 위임할 수도 있습니다.

이번 시리즈 B 투자를 주도한 CapitalG는 알파벳 산하의 성장 단계 전문 투자 펀드입니다. 구글 자체가 Gemini 모델을 통해 OpenRouter와 경쟁 관계에 있는 AI 생태계를 운영한다는 점을 고려하면, 이 투자는 흥미롭습니다. 경쟁 모델을 보유한 쪽이 동시에 멀티모델 라우팅 인프라에 베팅했습니다. 특정 모델의 점유율 싸움보다 모델들 사이의 연결 인프라가 더 안정적인 가치를 가질 수 있다는 판단이 반영된 것으로 읽힙니다.

회사 측이 성장의 배경으로 언급하는 것은 간단합니다. 어떤 단일 모델도 모든 작업에서 최적이지 않다는 인식이 시장에 빠르게 퍼지고 있고, 비용과 성능 사이의 적정점을 찾으려는 수요가 예상보다 강하게 형성되고 있다는 점입니다. 이 시장이 성립하는 이유도 어렵지 않습니다. 문서 요약에 강한 모델이 있고, 코드 작성에 강한 모델이 따로 있습니다. 오픈소스 계열 모델들은 상업 모델보다 성능이 낮아도 비용은 현저히 낮습니다. 작업 유형에 따라 모델을 달리 배치하면 같은 비용으로 더 나은 결과를 얻거나, 같은 결과를 훨씬 싸게 얻을 수 있습니다. 이 판단을 자동으로 수행해 주는 인프라에 대한 수요가 6개월 만에 사용량을 다섯 배 끌어올렸습니다.

성장 수치 뒤의 반론과 불확실성

투자자들이 주목하는 성장 수치 뒤에는 회의적인 시각도 있습니다. OpenRouter의 가장 현실적인 위협은 경쟁 서비스가 아니라 모델 공급자들 자신입니다. 오픈AI, 앤트로픽, 구글은 각자 API 가격 책정과 유통 채널을 직접 통제하고 있습니다. 이들이 API 요금을 낮추거나 자체 플랫폼 안에 멀티모델 라우팅 기능을 기본으로 포함하기 시작하면, OpenRouter가 제공하는 차별화 근거는 얇아집니다. 이미 일부 공급사들이 자사 API 안에서 라우팅 유사 기능을 실험 중이라는 보도가 있었습니다.

'최적 라우팅'이라는 개념 자체도 여전히 흐릿합니다. 속도, 비용, 정확도 중 무엇을 우선할지는 작업마다 다르고, 같은 작업이라도 맥락에 따라 달라집니다. 사용자가 이 기준을 세밀하게 설정하지 않으면, 플랫폼이 내린 라우팅 결정이 실제로 최선이었는지 사후에 검증하기 어렵습니다. 규모가 커질수록 이 불투명성이 누적 비용이나 품질 편차로 드러날 수 있습니다.

AI 인프라 서비스의 밸류에이션이 전반적으로 빠르게 오른 시기이기도 합니다. OpenRouter가 뛰어난 실행력을 보이고 있는 것은 사실이지만, 유사한 기능을 훨씬 낮은 비용으로 제공하는 오픈소스 대안들도 존재합니다. 사용량이 5배 늘었다는 것은 성장의 증거이지만, 시장 지위의 지속성을 자동으로 보장하지는 않습니다.

실무에서 읽을 수 있는 신호

OpenRouter의 성장이 드러내는 것은, AI를 '어떤 것을 쓸지'의 문제로 바라보는 관점이 실무 현장에 확산되고 있다는 점입니다. 2023년에 "ChatGPT를 써야 하는가"가 실질적인 질문이었다면, 2025년에는 "어떤 작업에 어떤 모델을 써야 하는가"가 더 실질적인 고민이 됩니다. 이 두 질문 사이에는 겉으로 비슷해 보이지만 사실 꽤 다른 사고방식이 있습니다.

전자는 도구를 도입할지 말지의 결정입니다. 후자는 도구를 어떻게 배치할지의 판단입니다. 도구가 하나였을 때는 전자가 전부였습니다. 도구가 수십 개로 늘어난 지금은 후자가 실질적인 비용과 성과에 더 직접 영향을 미칩니다.

이것은 1인 사업자나 소규모 팀에게 직접 닿는 이야기입니다. 매달 AI 구독료를 내면서 대부분의 작업에 그것을 쓰더라도, 단순 요약·분류·초안 생성에는 훨씬 저렴한 모델이 동등한 결과를 내는 경우가 많습니다. 반대로, 계약서 검토나 긴 보고서 분석에는 기본 구독 모델보다 한 단계 높은 모델이 더 좋은 결과를 낼 수 있습니다. 비용의 비효율이 생기는 자리는 작업과 모델이 맞지 않는 곳입니다.

저는 여기서 한 가지를 정리하고 싶습니다. AI 도구를 어떻게 쓸지보다, 어떤 AI 도구를 써야 하는지를 판단하는 역량이 실무 효율과 더 가깝게 연결되는 국면이 오고 있습니다. 지금 쓰는 AI가 어떤 작업에는 과도한 비용이 드는지 파악하고 있는지, 이미지 분석과 문서 요약과 아이디어 발산을 모두 같은 도구로 처리하고 있지는 않은지, 도구를 선택하는 기준이 습관에서 나온 것인지 판단에서 나온 것인지를 스스로 확인해 보는 것입니다. OpenRouter를 당장 도입하는 것과는 무관하게, 이 질문들에 답할 수 있는 것과 없는 것 사이에는 차이가 있습니다.

도구를 고르는 판단을 외주화하려는 수요가 13억 달러짜리 시장을 열었습니다. 그 수요가 어디서 나왔는지를 거슬러 생각해 보면, 그 판단을 스스로 할 수 있는 사람이 어디서 비용을 줄이고 있는지를 짐작할 수 있습니다.