2026년 9월 초, 미국 캘리포니아 보안관 사무소가 등산객 구조 사건을 기록한 보고서에 이런 문장이 남겨졌습니다. "등산객 일행은 Google Gemini로부터 그들이 실제로 필요한 것보다 훨씬 적은 식량과 물을 가져가라는 조언을 받았습니다." 구조대가 출동했고, 일행은 무사히 귀환했습니다.
이 사건을 보면서 "AI가 왜 틀린 정보를 줬는가"라고 묻는 것은 자연스럽습니다. 하지만 질문을 조금 다르게 놓으면 더 흥미로운 지점이 보입니다. AI가 틀린 정보를 줬던 것인가, 아니면 맞는 정보를 줬는데 그 정보가 이 집단의 이 날에 맞지 않았던 것인가.
이 두 가지는 다른 종류의 문제입니다.
일반 지침이 특수 상황에서 무너지는 방식
등산에서 필요한 수분 섭취량에 관한 일반 지침은 분명히 존재합니다. 성인 기준 시간당 0.5~1리터, 기온이 높을수록 더 많이, 경사가 급할수록 더 많이. 이런 데이터는 수많은 연구와 경험에서 나온 것으로, AI 도구가 학습한 텍스트에 충분히 포함돼 있을 가능성이 높습니다.
문제는 이 지침이 특정 집단의 특정 날 특정 코스에 그대로 적용되지 않는다는 점입니다. 그날의 기온이 실제로 얼마였는가, 코스의 경사가 어느 정도였는가, 그룹 중 체력이 가장 약한 사람이 누구였는가—이런 변수들은 일반 지침 안에 들어 있지 않습니다.
AI 기획 도구는 이 간격을 스스로 메울 수 없습니다. 도구가 접근할 수 있는 것은 텍스트로 기록된 패턴이고, 텍스트로 기록된 패턴은 대부분 일반적인 상황을 다룹니다. 사용자가 특수한 변수를 명시적으로 입력하지 않으면, 도구는 일반 패턴에서 출발한 답을 냅니다.
그 답이 틀린 것이 아닙니다. 다만 내 상황에 맞지 않을 수 있습니다.
비즈니스 기획에서 같은 구조로 생기는 간격
등산 계획에서 일어난 일은 비즈니스 기획에서 구조적으로 같습니다.
1인 사업자가 신규 서비스 출시를 앞두고 AI 기획 도구에게 "초기 마케팅 예산을 얼마로 잡아야 하나"라고 물으면, 도구는 답합니다. "초기 단계에서는 월 매출의 10~20% 수준을 마케팅에 투입하는 것이 일반적입니다." 많은 사업체 데이터에서 나온 패턴으로는 맞는 말입니다.
하지만 이 답이 이 사업자에게 맞으려면 몇 가지가 업계 평균 수준이어야 합니다. 고객 한 명을 확보하는 비용이 업종 평균에 가깝고, 고객이 재구매하는 비율이 비슷하고, 경쟁 상황이 이미 기록된 사례들과 크게 다르지 않아야 합니다. 그 조건들 중 하나라도 크게 벗어나면, "10~20%"는 출발점일 뿐 계획이 아닙니다.
프로젝트 일정 추정도 마찬가지입니다. "이 규모의 서비스 개발에 얼마나 걸리나"라고 물으면, 도구는 비슷한 규모의 과거 사례들에서 나온 범위를 제시합니다. 그 범위는 내 팀의 실제 속도, 지금 병행 중인 다른 작업들, 의사결정에 참여하는 사람 수와 무관하게 나옵니다. 이것이 내 일정 계획이 되는 순간 문제가 생깁니다.
"카페 오픈까지 얼마나 걸리나"라는 질문에 나온 "3~6개월"도 같습니다. 기존에 요식업 경험이 있는 경우와 완전히 처음인 경우, 직영 인테리어와 외주 인테리어, 임차 계약 진행 상황—이 변수들이 모두 "일반"에 가까워야 그 범위가 유효합니다.
AI 출력이 정밀하게 보이는 이유
이 구조적 간격을 자주 넘어가는 데는 출력 형식이 한몫합니다.
AI 기획 도구의 답은 대체로 번호가 붙고, 단계가 구분되며, 수치가 명확하게 제시됩니다. "1단계: 예산 설정. 초기 마케팅 예산은 월 매출의 15% 수준으로 시작합니다." 이 형식은 계획처럼 읽힙니다. 도구가 깊이 분석한 결과처럼 보입니다.
그러나 이 형식은 정밀함이 아닙니다. 일반 패턴을 정리한 형식입니다. 15%라는 숫자가 구체적으로 보이지만, 그것은 "많은 사업체의 평균값이 이 범위에 있다"는 뜻이지 "당신의 사업에서 15%가 적절하다"는 뜻이 아닙니다.
많은 AI 도구들이 면책 문구를 포함합니다. "개인의 상황에 따라 다를 수 있습니다." 하지만 이 문구는 답의 앞이나 뒤에 붙고, 정작 번호와 수치로 구성된 본체가 계획으로 받아들여집니다.
형식이 만드는 인상과 실제 내용의 성격 사이의 간격. 이것이 실행에서 어긋나는 자리입니다.
"이 답이 달라지는 조건이 무엇입니까"라는 질문 하나
권고를 받은 직후, 이렇게 묻는 것이 하나의 방법입니다. "이 권고가 달라지는 조건이 무엇입니까?"
이 질문에 AI는 대개 솔직하게 답합니다. "고객 획득 비용이 업종 평균보다 높다면 마케팅 예산 비율을 높여야 합니다. 팀이 처음 다루는 기술 스택이라면 일정을 1.5~2배로 잡아야 합니다. 재구매율이 낮은 업종이라면 초기 런웨이를 더 길게 봐야 합니다."
이 답에서 내 상황의 변수를 꺼냅니다. 내 고객 획득 비용은 실제로 얼마인가, 팀이 처음 쓰는 기술인가, 재구매가 나오는 구조인가. 이 변수들을 명시적으로 제공해 다시 물어보거나, 데이터가 없으면 직접 측정하는 단계가 필요합니다.
등산 계획에 대입하면, "이 수분 권고가 달라지는 조건이 무엇입니까?"라고 물었을 때 "기온이 30도 이상이거나 급경사가 포함된 코스라면 권고량을 1.5배 이상으로 늘려야 합니다"라는 답이 나옵니다. 그 순간 확인해야 할 변수—그날의 날씨 예보와 코스 정보—가 드러납니다.
이 질문 없이 첫 출력을 그대로 쓰면, 평균 상황에서 나온 숫자를 평균이 아닌 내 상황에 적용하는 일이 됩니다.
AI 기획 도구는 일반 패턴을 빠르게 꺼내오는 데 유용합니다. 그 패턴에 내 상황의 변수를 대입하는 단계는 도구가 할 수 없고, 사람이 합니다. 그 변수가 무엇인지 파악하는 것도, 그 값을 구하는 것도. 스마트한 시대에 도구를 잘 쓴다는 것은 출력을 많이 받는 것이 아니라, 출력을 어디서 멈추고 검토하는지 아는 것입니다.
AI가 "이 정도면 됩니다"라고 말할 때, 그것이 어떤 상황을 가정하고 있는지 묻는 것. 그 질문이 계획과 출력 사이의 거리를 좁힙니다.
