『The Future of Truth(진실의 미래)』는 AI가 진실을 어떻게 바꾸는지 다루는 책입니다. 2026년 5월 12일 출간됐고, 노벨평화상 수상 언론인 마리아 레사가 서문을 썼습니다. 출간 일주일 만에 뉴욕타임스가 이 책에서 출처가 조작되거나 잘못 귀속된 인용을 여섯 개 넘게 찾아냈습니다. 그중 하나는 기술 저널리스트 카라 스위셔에게 붙어 있었는데, 정작 본인은 "그런 말을 한 적이 없다"고 밝혔습니다. AI가 만들어낸 문장이었습니다.

저자 스티븐 로젠바움은 의도적 날조가 아니라 사고였다고 해명했습니다. 집필 초기에 AI를 검색 도구로 썼고, AI에서 나온 정보는 따로 표시해 출판사 측 사실 확인 담당자에게 보냈다고 설명했습니다. 그러나 가짜 인용은 책에 그대로 실렸습니다. AI가 진실을 위협하는 방식을 경고하려던 책이, 바로 그 방식으로 무너진 셈입니다.

이 사건은 "AI가 거짓을 만든다"는 익숙한 경고로 읽기 쉽습니다. 그러나 한 꺼풀 벗기면 다른 구조가 보입니다. AI는 없던 문제를 새로 만든 것이 아니라, 출판이 오래 비워둔 빈틈을 드러냈습니다.

누구도 검증을 책임지지 않는 구조

논픽션 출판에서 사실 확인은 계약상 의무가 아닙니다. 이번 사건을 취재한 뉴욕 매거진에 따르면, 외부 사실 확인 전문가를 쓰는 데 책 한 권당 7,000달러에서 1만 달러 이상이 듭니다. 비용 때문에 이 단계는 오래 생략돼 왔습니다. 같은 보도에서 한 대형 출판사의 논픽션 수석 편집자는 책에서 오류를 발견하고 사실 확인 문제를 제기했지만, "출판사는 사실 확인이나 외부 검증 기관 고용에 책임이 없으며, 그렇게 하면 책임이 출판사로 넘어온다"는 답을 들었다고 전했습니다.

저자가 자기 돈으로 검증에 큰 비용을 쓸 가능성도 낮습니다. 한 문학 에이전트는 "정립된 시스템이 없다"고 말했습니다. 모든 출판 계약에 이 문제가 논의되지만 누구도 답을 내놓지 못한다는 것입니다. AI 사용에 관한 구체적 계약 조항을 둔 출판사도 드뭅니다. 한 편집자는 저자에게 특정 방식으로 AI를 쓰지 말라는 지침을 보내긴 하지만 "법적 구속력은 없고, 편집 단계에 들어가면 결국 신뢰의 문제"라고 말했습니다.

검증의 책임이 어디에도 고정돼 있지 않습니다. 출판사는 의무가 없다고 하고, 저자는 비용을 감당하기 어렵고, 에이전트는 시스템이 없다고 합니다. 평소에는 이 빈틈이 문제로 드러나지 않았습니다. 사람이 쓰는 속도에서는 오류가 드물게 섞였고, 그 정도는 묵인됐습니다. AI가 생산 속도를 끌어올리자 비어 있던 책임이 사고로 이어졌습니다.

검증되기 전에 발행하는 시대의 예고

이 구조는 AI가 등장하기 전에 이미 진단됐습니다. 데이비드 와인버거는 『지식의 미래』(원제 Too Big to Know)에서 인터넷이 발행 비용을 없애면서 지식의 작동 방식이 바뀌었다고 분석했습니다. 그는 검증 없이 일단 발행하는 전략이 자리 잡았고, 그 결과 검증되기 전에 공개돼 누구나 접근할 수 있는 방대한 데이터 더미가 생겼다고 봤습니다. 사실이 지식의 토대 역할을 하던 방식이 그렇게 달라졌다는 것입니다.

와인버거가 본 것은 발행 비용이 0에 가까워질 때 사실 확인이 가장 먼저 밀려난다는 점입니다. 종이 시대에는 인쇄와 유통에 드는 비용 자체가 발행을 가로막았습니다. 한 권을 찍어내는 데 돈이 들기 때문에, 그 앞에서 출판사는 무엇을 낼지 골라야 했고 그 과정에 검토가 끼어들었습니다. 인터넷은 그 비용을 없앴습니다. 발행이 공짜가 되자 거르는 단계도 함께 사라졌습니다.

AI는 한 걸음 더 갔습니다. 인터넷이 발행을 값싸게 만들었다면, AI는 생산까지 값싸게 만들었습니다. 한 사람이 책 한 권 분량의 초고를 며칠 만에 만들 수 있게 된 지금, 사실 확인만 여전히 비싸고 느립니다. 그 작업은 사람이 원출처를 일일이 대조해야 해서 자동화가 어렵고, 책 한 권에 수천 달러가 드는 구조도 그대로입니다. 생산은 몇 배로 빨라졌는데 검증은 그 속도를 따라가지 못합니다. 두 속도의 간격이 벌어진 만큼, 확인을 거치지 않은 문장이 책으로 굳을 가능성도 커집니다.

로젠바움의 책은 그 간격이 만든 사고입니다. AI가 문장을 빠르게 만들어줬고, 검증은 어디에도 고정돼 있지 않았으며, 결과물은 책으로 굳어 시장에 나왔습니다. 사람이 한 줄씩 쓰던 때라면 가짜 인용 여섯 개가 한 권에 모이기 어려웠을 것입니다. 생산 속도가 검증 속도를 추월하면, 오류는 드문 실수가 아니라 구조가 만들어내는 결과가 됩니다.

1인 창작자는 검증을 위임할 곳이 없다

여기서 1인 사업자와 창작자가 처한 처지는 출판사보다 더 분명합니다. 출판사에는 그나마 편집자, 외부 검증 담당자, 법무 검토라는 여러 단계가 있습니다. 1인 창작자에게는 그 단계가 전부 한 사람에게 모여 있습니다. 검증을 떠넘길 대상이 없습니다.

전자책을 직접 내고, 뉴스레터를 직접 쓰고, 영상 대본을 직접 만드는 사람은 생산의 모든 단계를 혼자 통제합니다. AI를 쓰면 그 속도가 몇 배로 빨라집니다. 예전에는 한 편을 쓰는 데 자료 조사부터 초고까지 며칠이 걸렸다면, 이제 그 과정이 몇 시간으로 줄어듭니다. 문제는 빨라진 속도만큼 검증도 빨라지지 않는다는 점입니다. 자료를 직접 찾아 읽던 때는 출처를 손에 쥔 채로 글을 썼지만, AI가 요약해 준 정보로 쓰면 원출처를 거치지 않은 문장이 그대로 글에 들어갑니다. 출판사라면 비용 때문에 생략한 단계를, 1인 창작자는 시간과 품이 없어서 생략하기 쉽습니다. 결과는 같습니다. 검증되지 않은 문장이 자기 이름을 달고 시장에 나갑니다.

로젠바움에게는 출판사와 배급사가 뒤에 있었는데도 책임은 온전히 그의 몫이었습니다. 그는 성명에서 오류에 대한 책임을 전부 인정했습니다. 1인 창작자에게는 나눠 질 상대조차 없습니다. AI가 만든 문장이라도, 거기에 이름을 건 사람이 책임집니다. 이름을 건다는 것은 생산물의 출처가 아니라 사실 여부를 보증한다는 뜻입니다.

그렇다면 검증을 어디까지, 어떻게 해야 하는가. 모든 문장을 외부 전문가에게 맡기는 것은 1인 창작자에게 현실적이지 않습니다. 범위를 좁혀 집중하는 편이 낫습니다.

어디부터 손대야 하는가. 로젠바움의 사고가 시작된 대목이 그 답을 알려줍니다. 가짜는 카라 스위셔의 입에 없던 말을 붙인 직접 인용에서 났습니다. AI가 가장 그럴듯하게 지어내는 것이 인용문이기 때문입니다. 따옴표 안에 든 말은 실제로 그 사람이 한 말인지 원출처에서 확인해 두는 편이 안전합니다. 다음은 숫자와 날짜입니다. AI는 "약 70%"나 "2023년"처럼 구체적인 수치를 자신 있게 제시하는데, 그 자신감과 정확성은 별개입니다. 통계와 금액, 연도는 1차 출처에서 다시 대조해야 합니다. 마지막은 고유명사입니다. 사람 이름, 회사 이름, 책 제목, 사건명은 AI가 틀려도 문장이 매끄럽게 읽혀서 그냥 지나치기 쉽습니다. 실재하는지 한 번 짚고 넘어가야 합니다. 인용, 숫자, 고유명사. 이 셋이 AI의 오류가 가장 자주 새어 나오는 항목이고, 사람이 발행 전에 가장 확실하게 막을 수 있는 항목입니다.

이 셋에 집중하는 이유가 있습니다. 모두 사실 여부가 한 갈래로 정해지는 항목이라, 맞고 틀림을 따로 확인할 수 있습니다. 반면 해석이나 의견은 원출처 대조로 가려지지 않습니다. 손이 무한정 늘어날 수 없는 1인 창작자라면, 확인이 실제로 가능한 항목에 시간을 몰아주는 편이 합리적입니다. AI에서 가져온 정보는 따로 표시해 두고, 발행 전에 그 표시가 붙은 문장만 다시 짚는 절차를 작업에 넣어 두면 좋습니다. 로젠바움도 AI에서 나온 정보를 표시까지는 했습니다. 표시한 다음 확인하는 단계가 빠졌을 뿐입니다.

속도를 얻은 만큼, 검증을 다시 설계할 때

AI는 1인 창작자에게 출판사 한 곳에 맞먹는 생산력을 줬습니다. 그러나 출판사가 가진 검증 단계까지 함께 준 것은 아닙니다. 생산은 위임할 수 있어도, 이름을 거는 책임은 위임되지 않습니다.

로젠바움의 사건이 남긴 것은 AI를 쓰지 말라는 교훈이 아닙니다. 그는 AI를 검색 도구로만 썼다고 했지만, 검증의 책임을 누구에게도 고정해 두지 않았습니다. 빠른 생산 도구를 손에 쥘수록, 검증을 누가 언제 어떻게 하는지를 먼저 정해 둬야 합니다. 출판사가 비용 때문에 비워둔 그 빈틈을, 1인 창작자는 자기 작업 안에 다시 설계해 넣을 수 있습니다. 검증 단계를 외부에 둘 수 없다면, 발행 전 마지막 점검을 하나의 고정된 절차로 만들어 두는 것이 현실적인 대안입니다.

검증되기 전에 발행하는 시대는 와인버거의 예고대로 이미 도착했습니다. 카라 스위셔는 자기가 하지 않은 말이 책에 인쇄된 뒤에야 그 사실을 알았습니다. 그 한 문장을 발행 전에 누군가 원출처와 대조했다면, 책은 무너지지 않았을 것입니다. 이름을 걸고 무언가를 내놓을 때, 그 대조를 누가 언제 하느냐를 정해 두는 일은 이제 작업의 일부가 됐습니다.