회의실 화면에 숫자가 정렬됐습니다. "고객 불만 카테고리 12개, 1위 배송 지연, 2위 제품 설명 불일치, 3위 사이즈 불만족." 어느 소비재 기업 인사이트 팀이 3년치 VOC 데이터 수천 건을 RAG 시스템에 올린 뒤 뽑아낸 결과였습니다. 팀장은 다음 분기 신제품 기획을 이 요약본에 맞췄습니다. 6개월 뒤, 경쟁사 한 곳이 정성 인터뷰 15건에서 건진 미충족 욕구 하나로 새 카테고리를 만들었습니다. AI가 훑은 수천 건의 데이터에는 그 신호가 없었습니다. 고객이 아직 말하지 않은 것은 어떤 데이터베이스에도 올라가 있지 않았기 때문입니다.

MIT 슬론 매니지먼트 리뷰가 최근 집중한 주제가 이 경계선입니다. 점점 많은 고객 지향 기업이 내부 콘텐츠를 분석하는 데 GenAI와 대형 언어 모델의 추론 능력을 결합하기 시작했습니다. 이 접근에서 핵심으로 쓰이는 기법이 RAG(Retrieval-Augmented Generation)입니다. 데이터베이스에서 관련 문서를 꺼내는 검색 단계와, 거기에 언어 모델의 추론을 얹어 질문에 답하는 생성 단계를 이어 붙인 방식입니다. 고객 설문 결과, 인터뷰 녹취록, NPS 코멘트, 내부 분석 보고서가 이 시스템의 입력값이 됩니다. 연구가 주목한 것은 이 구조가 어디서 힘을 발휘하고 어디서 힘을 잃는지 그 선이었습니다.

AI가 실제로 줄여주는 작업

RAG 방식의 GenAI가 뚜렷하게 힘을 발휘하는 영역은 규모와 속도의 문제입니다. 사람 분석가가 몇 주를 투입해야 처리할 수 있는 수백 건의 고객 텍스트를 몇 시간 안에 훑고, 반복적으로 등장하는 주제를 추출합니다. 여러 부서에 흩어진 내부 리포트를 연결해 중복 관찰을 걸러내고, 공통 불만 패턴을 한자리에 모아주기도 합니다. 팀에 새로 합류한 인원이 방대한 고객 맥락을 빠르게 따라잡거나, 분기 인사이트 보고서 초안 작업에서 드는 시간을 체감할 만큼 줄여 줍니다.

이 단계에서 AI가 하는 일은 가설 생성에 가깝습니다. 방대한 문서에서 신호처럼 보이는 것을 끌어올려, 분석가가 주목해야 할 지점을 미리 좁혀 줍니다. 모든 문서를 처음부터 직접 읽는 대신, AI가 사전 선별한 단서를 갖고 분석을 시작하는 구조입니다. 보고서 작성에서 없애는 시간이 아니라, 판단에 써야 할 시간을 앞으로 당겨오는 기술입니다.

고객 문의 이력이나 반품 사유 코멘트처럼 단기간에 쏟아지는 대량 텍스트를 처리하는 데서도 마찬가지입니다. 사람이 전수 검토하기 어려운 분량을 AI가 먼저 훑고 이상 신호를 표시해 두면, 분석가는 그 지점에 집중하는 방식으로 일을 나눌 수 있습니다.

AI의 손이 닿지 않는 곳

반면 이 구조에서 구조적으로 비어 있는 영역이 있습니다. 고객이 말하지 않은 것, 즉 비언어적 반응·표정·주저함·특정 질문에서 생기는 짧은 침묵·화제를 바꾸는 행동 같은 것들은 텍스트 데이터베이스에 올라가지 않습니다. 현장 인터뷰에서 조사자가 포착하는 이 신호들은 RAG 시스템이 접근할 수 있는 자료가 아닙니다.

더 근본적인 약점은 방향성입니다. RAG는 이미 존재하는 내부 문서를 재료로 삼습니다. 고객이 아직 언급하지 않은 욕구, 시장에 존재하지 않아 고객 스스로 표현할 언어가 없는 필요, 경쟁사가 아직 만들지 않아 비교 자체가 이뤄지지 않은 기회는 내부 문서 어디에도 없습니다. 이미 쌓인 과거 데이터에서 패턴을 뽑는 도구는 아직 말해지지 않은 신호를 가리키지 못합니다.

입력 데이터의 편향 문제도 있습니다. 불만 고객의 리뷰가 VOC 데이터의 대부분을 차지한다면, AI는 불만 중심의 인사이트를 돌려줍니다. 특정 연령대나 채널 이용자에게 치우친 설문 결과를 훑는다면, 그 치우침이 분석 결과에 고스란히 실립니다. 사람이 분석할 때는 "이 샘플이 전체를 대표하는가"라는 질문이 습관적으로 나오지만, 시스템이 자동 처리하는 구조에서는 그 질문을 생략하기 쉽습니다.

회의적 시각에서 보면

이 접근 방식이 빠르게 퍼지는 가운데, 현장에서 제기되는 반론도 정직하게 살펴볼 필요가 있습니다. 연구자와 현장 분석가들이 제기하는 우려 중 더 자주 언급되는 쪽은 분석 역량의 퇴화입니다. AI 요약을 반복적으로 소비하는 팀이 원본 데이터를 직접 읽는 훈련을 줄이면, 오류를 발견하는 감각이 느리게 약해집니다. 연구자 일부는 이 과정을 "감사 능력의 침식"이라 표현합니다. 도구가 내놓은 결론을 재검토하는 역량이 조직 안에 남아 있어야 도구가 틀렸을 때 알아챌 수 있는데, 도구를 오래 쓸수록 그 역량이 서서히 줄어드는 패턴이 관찰된다는 것입니다.

고객 접점 자체가 줄어든다는 우려도 있습니다. RAG 기반 분석이 정성 인터뷰나 현장 관찰의 필요성을 낮춰버리면, 고객이 말한 것의 양은 늘어나지만 고객이 원하는 것의 깊이는 얕아질 수 있습니다. 이것은 AI 도구 자체의 결함이 아닙니다. 분석 속도를 높이는 데 도구를 쓰면 합리적이고, 현장 접촉을 줄이는 명분으로 쓰면 다른 결과를 낳습니다.

소규모 팀이 먼저 점검할 것들

이 논의가 대기업 인사이트 팀의 이야기처럼 느껴질 수 있지만, 고객 이해의 구조적 함정은 규모가 작을수록 더 선명하게 드러납니다. 리소스가 부족할수록 AI가 정리해 준 결론을 검증 없이 수용하는 경향이 강해집니다.

우선 점검할 것은 입력 데이터의 출처입니다. AI에 넣는 자료가 어느 채널에서, 어느 시점까지, 어떤 고객군에서 수집됐는지를 기록해 두십시오. 이 정보가 없으면 AI가 돌려주는 분석을 해석할 맥락이 사라집니다. 편향된 샘플이 들어가면 편향된 인사이트가 나오고, 그것이 자동화된 보고서 형식으로 출력되면 오류가 사실처럼 읽힙니다.

AI 요약을 가설로 취급하는 습관도 그만큼 중요합니다. "AI가 이렇게 정리했다"가 아니라 "AI가 이것을 가설로 제안했다"는 기준으로 보고서를 읽어야 합니다. 그 가설이 최근 고객과의 직접 대화나 실제 사용 장면에서 확인되는지를 묻는 단계가 분석의 마지막에 자리를 잡을 때, AI의 출력은 비로소 출발점이 됩니다.

정성과 정량 경로를 구분해 운영하는 것도 살펴볼 지점입니다. 설문·리뷰·코멘트 같은 정량 텍스트는 AI가 처리하기 적합합니다. 그러나 왜 그 고객이 그 선택을 했는지, 어떤 맥락에서 그 결정이 이뤄졌는지를 묻는 작업은 대면 접촉이나 관찰에서 출발합니다. 두 경로의 역할을 섞어버리면 처리 속도는 올라가도 이해의 층위가 흐려집니다.

비즈니스 디자인 분야에서 오래 다뤄온 구분이 있습니다. 사용자가 원한다고 말하는 것과, 사용자가 실제로 필요로 하지만 아직 표현하지 못하는 것 사이의 거리입니다. 전자는 설문과 VOC 데이터에서 수집할 수 있고, 후자는 관찰과 맥락 파악에서 나옵니다. 가격이 아니라 경험의 차별점으로 시장을 나눈 사례들은 대부분 후자에서 시작됐습니다. RAG 기반 GenAI는 전자를 훨씬 빠르게, 훨씬 넓게 처리하는 도구입니다. 후자는 지금도 사람이 직접 발로 뛰는 자리에 있습니다.

고객 데이터를 더 많이 처리할수록 고객을 더 잘 이해하게 된다는 가정을 점검해 볼 만합니다. AI가 정리해 준 인사이트가 쌓일수록 고객에게 직접 물어보고 싶은 충동이 줄어든다면, 그때가 방향을 다시 살펴야 하는 시점입니다. 처리 속도와 이해의 깊이는 늘 같은 방향으로 움직이지 않습니다.