한 미국 지역 은행은 AI 대출 심사 시스템을 도입한 뒤 기술 구현에 4개월을 썼고, 실제 운영 전환에 14개월이 더 필요했습니다. 심사역들이 AI 판단을 신뢰할 기준을 정의하는 데 6개월, 오류 발생 시 책임 소재를 확정하는 데 5개월, 규제 당국에 설명 자료를 제출하는 데 3개월이 걸렸습니다. 기술이 준비된 이후에도 조직이 움직이지 않으면 AI는 그 자리에 멈춰 있습니다.

맥킨지가 최근 발표한 은행권 AI 전환 분석에서 세 전문가는 이 패턴을 반복해 확인했다고 말합니다. AI가 '보조자'에서 '실행자'로 전환되는 시점 — 사람이 확인하고 판단하는 것이 아니라 AI가 직접 처리하고 결과를 만드는 시점 — 에 이르면, 기술 준비도는 더 이상 병목이 아닙니다. 막히는 곳은 다른 자리에 있습니다. 한국 중간관리자와 1인 사업자에게도 이 패턴은 낯설지 않을 것입니다.

AI가 실행자가 되면 오류의 성격이 달라집니다

AI를 도구로 쓸 때는 사람이 최종 판단을 내립니다. 이메일 초안을 검토하거나, 계약서를 요약하거나, 데이터를 정리해 주는 방식입니다. 사람이 결과를 보고 판단하고 서명합니다. 이 단계에서 AI가 오류를 내도 최종 확인자가 걸러냅니다. 책임 구조가 상대적으로 명확합니다.

AI가 실행자가 되면 흐름이 달라집니다. 은행권에서는 대출 신청 수신부터 승인·거절 통보까지 AI가 독립적으로 처리하는 방식이 확산되고 있습니다. 고객 문의 분류, 이상 거래 탐지, 규정 준수 문서 생성도 비슷하게 이동하고 있습니다. 사람은 예외 처리와 감독 역할로 물러납니다. AI가 대량의 결정을 내리고, 사람은 이상 신호가 있을 때만 개입합니다.

이 전환이 반복적 문서 처리 시간을 60~70% 줄인다는 보고가 은행권 내부에서 나옵니다. 동시에 이전에 없던 문제들이 나타납니다.

AI가 실행을 맡으면 오류의 성격이 바뀝니다. 사람이 실수하면 그것은 사람의 실수입니다. AI가 실수하면 그것은 누구의 실수인가 — 모델을 만든 팀인가, 도입을 결정한 경영진인가, 감독을 맡은 직원인가. 이 질문에 명확히 답하지 못한 조직은 AI를 운영에 올려놓지 못합니다. 맥킨지 보고서는 이 책임 귀속 문제를 가장 먼저 해결해야 하는 설계 과제로 꼽습니다.

기술 한계가 아니라 설계의 공백이 막는다

맥킨지 전문가들이 짚은 항목들은 조직 설계, 거버넌스, 인재 배치로 수렴합니다. AI가 어느 범위까지 독자 판단을 허용받는지, 그 범위를 누가 결정하는지, 결과에 대한 책임이 어떤 경로로 흐르는지. 이것들이 불명확한 조직은 기술이 아무리 준비돼 있어도 AI를 실행자 단계에 올려놓지 못합니다.

규제 당국의 요구도 같은 맥락에 있습니다. 금융 섹터에서는 AI 판단 근거를 설명할 수 있어야 합니다. 모델이 왜 그 대출을 거절했는지, 왜 그 거래를 이상으로 분류했는지를 감사인과 규제 기관 앞에서 설명하지 못하면 운영 허가가 나지 않습니다. 이 설명 가능성은 기술 팀만의 과제가 아닙니다. 법무, 컴플라이언스, 리스크 관리 팀이 함께 엮여야 하는 조직 전체의 과제입니다.

데이터 상태도 같은 문제에 얽혀 있습니다. AI 실행 시스템은 판단 근거로 삼을 데이터가 깨끗하고 일관돼야 합니다. 은행들이 마주한 현실은 수십 년 된 레거시 시스템에 흩어진 데이터가 형식조차 통일되지 않은 상태였습니다. AI를 올리기 전에 데이터를 정리해야 했고, 그 작업이 기술 구현보다 더 많은 시간을 가져갔습니다.

AI 실행자 전환에 회의적인 입장도 정직하게 다뤄야 합니다. 금융처럼 오류 비용이 높은 영역에서 인간의 최종 판단을 축소하는 것은 효율보다 위험이 클 수 있다는 주장입니다. 2023년 한 미국 금융사에서 AI 대출 심사 시스템이 특정 우편번호 지역 신청자를 체계적으로 낮게 평가하는 패턴이 발견됐습니다. 인간 심사역이 있었다면 이상하다고 느꼈을 패턴을 AI는 반복했습니다. 이 사례는 감독 구조 없이 AI를 실행자 단계에 올릴 때 편향이 증폭될 수 있다는 점을 보여줍니다. 속도보다 설계가 먼저여야 한다는 주장은 이 2023년 편향 사례에서 실증됩니다. 맥킨지 보고서도 이 지점을 간접적으로 인정합니다.

AI를 실행자로 올리기 전에 확인할 것들

은행권 사례를 다른 업종에 그대로 적용하기는 어렵습니다. 그러나 AI를 보조에서 실행으로 올리려는 흐름은 금융 밖에서도 동일하게 나타나고 있습니다. 마케팅 콘텐츠 생성, 고객 문의 응대, 세금 계산서 처리, 일정 조율 — 많은 1인 사업자들이 이 작업을 AI에게 맡기기 시작했습니다.

이때 먼저 확인해야 할 항목들이 있습니다. AI가 처리한 결과가 틀렸을 때 어떤 절차로 발견하고 수정할 것인지, 그 책임은 누구에게 있는지, 고객에게 어떻게 설명할 것인지. 이 흐름을 사전에 정해두지 않은 상태로 AI에게 실행을 맡기면, 맥킨지 보고서가 은행에서 관찰한 것과 동일한 병목이 찾아옵니다. 조직 규모가 작다고 해서 이 문제가 단순해지지는 않습니다.

재무 의사결정을 할 때 수익률 계산보다 손실 시나리오를 먼저 그리는 방식이 있습니다. 수익이 나면 얼마를 벌 수 있는지보다, 틀렸을 때 어떤 피해가 생기는지를 먼저 그려두는 사고 순서입니다. AI 실행 전환에도 같은 순서를 취할 수 있습니다. AI가 잘 작동할 때의 효율보다, AI가 틀렸을 때 무엇이 무너지는지를 먼저 그리는 것. 그 그림이 완성된 조직만이 AI를 보조에서 실행으로 이동시킬 수 있습니다.

AI 도입 체크리스트에 오류 발견 주기, 책임 귀속 구조, 설명 가능한 처리 흐름이 빠져 있다면, 기술이 아무리 앞서 있어도 조직은 18개월 중 14개월을 기다립니다. 저는 이것을 '손실 먼저 설계'라고 말하고 싶습니다.

도구가 더 많은 일을 맡을수록, 그 도구를 언제 멈추게 할 것인지를 결정하는 사람과 절차가 필요합니다. 기술이 준비된 이후에 막히는 것들이 그 자리에 있습니다.