매출 스프레드시트를 통째로 복사해 챗GPT에 붙여넣었다가, 한없이 길어진 프롬프트와 애매한 답변에 실망해 본 적 있으실 겁니다. 숫자 수백 개를 그대로 넘기면 AI가 알아서 추세를 읽어 주리라 기대하게 되지만, 돌아오는 것은 두루뭉술한 요약과 부쩍 늘어난 토큰 사용량입니다.
문제는 숫자가 언어 모델에게 유난히 비싼 입력이라는 데 있습니다. 챗GPT 같은 모델은 입력을 토큰이라는 조각으로 쪼개 처리하는데, 소수점 붙은 숫자의 나열은 토큰 수를 급격히 불립니다. 이번에 소개할 arXiv 논문은 이 문제를 정면으로 다루며 뜻밖에 간단한 해법을 내놓습니다. 숫자를 글자로 주지 말고, 그래프 이미지 한 장으로 주라는 것입니다.
어떤 연구인가
연구진은 통신망 분석 현장에서 출발합니다. 4G·5G 기지국은 15분 간격으로 여러 지표(KPI)를 쏟아내는데, 이 숫자들을 텍스트로 언어 모델에 넣으면 수천 개의 부동소수점 토큰으로 팽창합니다. 논문에 따르면 언어 모델 추론은 AI 운영 에너지의 90% 이상을 차지하고, 그 에너지 소비는 입력 토큰 수에 비례해 늘어납니다. 그래서 연구진이 던진 질문은 이렇습니다. 같은 시계열 숫자를 2D 플롯, 곧 그래프 이미지로 바꿔 비전-언어 모델(VLM)에 보여 주면 어떻게 될까 하는 것입니다.
무엇을 발견했나
결과는 뚜렷했습니다. Llama-3.2-90B, Qwen2.5-VL-72B, Pixtral-12B 세 모델에서 입력 토큰이 3.6~10.4배 줄었고, 실측 추론 에너지는 1.8~2.5배 감소했습니다. 15분마다 기지국 200곳을 감시하는 통신 엣지 환경이라면 하루 약 7.2메가줄의 에너지가 절약되는 규모입니다.
더 흥미로운 대목은 정확도입니다. 파인튜닝한 Llama-3.2-90B-Vision은 텍스트만 쓰는 같은 모델보다 정밀도가 220.7% 높았고, 통신 이상 탐지에서 LSTM·ARIMA 같은 전통 기법을 144% 이상 앞섰습니다. 공개 벤치마크에서는 Pixtral-12B가 평균 F1 0.82를 유지하며 에너지 대비 성능 지표를 20.6배 개선했습니다. 지표가 24개에 이르면 텍스트 표현은 상용 모델 대부분의 128K 토큰 한도를 넘겨, 잘라내지 않고는 처리 자체가 불가능해집니다. 반면 이미지 표현은 표준 한도 안에 여유 있게 머뭅니다. 더 싸면서 더 정확한, 흔치 않은 조합입니다.
실무에 적용하면
챗GPT로 엑셀 데이터를 분석할 때 습관 하나만 바꿔 보시기 바랍니다. 월별 매출, 광고 성과, 방문자 추이 같은 숫자를 그대로 붙여넣는 대신, 엑셀에서 차트를 만들어 이미지로 캡처해 올리는 것입니다. 이때 축 라벨과 기간 표시는 지우지 말고 남겨 두시기 바랍니다. 모델이 그림에서 읽어 낼 단서가 그만큼 늘어나기 때문입니다. 논문이 다룬 통신망 지표와 1인 사업자의 매출표는 규모만 다를 뿐, 여러 지표가 시간에 따라 움직이는 숫자 시계열이라는 점에서 같은 종류의 데이터입니다.
이점은 두 갈래입니다. 첫째, 토큰이 줄어드니 API 요금을 내는 분이라면 비용이 곧장 내려가고, 채팅으로 쓰는 분이라면 긴 표가 대화 맥락을 밀어내 앞서 나눈 지시를 잊게 만드는 일이 줄어듭니다. 몇 달치 지표를 놓고 대화를 이어 가야 하는 분석 작업일수록 이 차이가 큽니다. 둘째, 추세·급등락·이상 구간을 묻는 질문이라면 그래프 쪽이 더 나은 답을 끌어낼 근거가 생겼습니다. 챗GPT 엑셀 데이터 분석의 요령은 숫자 낭독이 아니라 그림 읽기를 시키는 데 있는 셈입니다. 이 그래프에서 이상한 구간을 짚고 원인 가설을 세워 달라는 식으로 청하면 됩니다.
주의할 점
범위는 정직하게 그어 둘 필요가 있습니다. 이 연구는 통신망 KPI 같은 숫자 시계열의 이상 탐지와 분석을 다뤘습니다. 정확한 합계 계산이나 특정 값 조회처럼 원본 숫자 자체가 필요한 작업에는 여전히 표가 맞습니다. 또 220.7%라는 정밀도 개선은 파인튜닝된 특정 모델에서 측정된 수치이므로, 일반 챗봇에서 같은 폭의 향상을 장담할 수는 없습니다. 그래도 방향은 분명합니다. 추세가 궁금하다면, 숫자 천 줄보다 그림 한 장이 쌉니다.
