2026년 9월 3주차 리브레토 인사이트

2026년 9월 3주차

월요일 아침입니다. 이번 한 주는 어떤 마음으로 열고 계신가요? 요즘 여러 글을 오가다 보면 자꾸 같은 물음과 마주치게 됩니다. AI가 내놓는 결과물이 점점 그럴듯해질수록, 곁에서 확인하고 걸러줄 사람이 없으면 작은 오류도 그대로 굳어버린다는 것입니다. 그래서인지 값을 쳐주는 자리도, 무언가를 잘 만들어내는 능력보다 그걸 제대로 가려내는 판단력 쪽으로 조금씩 옮겨가는 듯합니다.

이번 주 키포인트

	필즈상 수학자 테리 타오가 AI 모델의 수학 풀이를 직접 검토하고 나서야 '심각한 불일치'를 발견했고, 등산객은 Gemini가 알려준 식량 계획을 그대로 따랐다가 조난 신고까지 이어졌습니다. 같은 주 OpenAI가 난제를 풀었다고 발표한 논문도 수학계가 곧바로 문을 닫았듯, 둘 다 결과물은 자신 있어 보였지만 오류는 확인할 사람이 나설 때까지 그대로 남아 있었습니다.
	바이브 코딩으로 만든 서비스에 '버그 찾아줘'를 서너 번 더 돌리면, 코드가 좋아지는 게 아니라 오탐만 쌓입니다. 돌릴 때마다 뭔가 고쳐주니 아직 손볼 데가 남았다는 착각이 들지만, 이미 멀쩡한 곳까지 건드리는 걸 알아채는 것도 결국 사람의 눈입니다.
	업워크에서 AI 초안 수정 의뢰가 70% 늘었는데, 그 일이 가는 사람은 초안을 쓰는 사람이 아니라 어디가 틀렸는지 짚는 사람입니다. 한때 IR 덱의 강점이던 'GPT를 씁니다'라는 한 줄도 이제 아무 신호가 되지 못하는 것도 같은 이유입니다 — 만드는 능력은 흔해졌고, 값은 가려내는 눈으로 옮겨갔습니다.
	그래서 이번 주의 기준은 결과물이 얼마나 빠르게 나왔는지가 아니라, 그게 틀렸을 때 누가 먼저 알아채는지입니다. 초안이나 코드, 풀이는 몇 분이면 나오지만, 그 안의 오류를 짚어내는 눈은 여전히 그 일을 오래 해본 사람에게만 있습니다.

이번 주 꼭 읽어야 할 글

필즈상 수학자가 AI의 수학 풀이를 검토했더니, '심각한 불일치'가 나왔습니다

2026년 9월 초, 미국 캘리포니아의 한 보안관 사무소가 등산객 구조 사건 기록을 남겼습니다. 등산객 일행이 Google Gemini에게 필요한 식량과 물의 양을 물었고, 실제 필요량보다 훨씬 적은 양을 챙기라는 조언을 받았습니다. 산에서 구조대의 도움을 받았고, 다행히 무사히 돌아왔습니다. AI가 내놓은 계산은 이 산, 이 날씨, 이 인원에 맞춘 것이 아니라 평균적인 상황에서 출발한 값이었습니다. 그 값이 이번 일행에게 맞는지 현장에서 확인해 줄 사람이 없었습니다.

같은 달, 이번엔 산이 아니라 수학이 무대였습니다. 필즈상을 받은 수학자 테리 타오는 9월 11일 자신의 블로그에 여러 AI 모델의 수학적 추론을 직접 검토한 결과를 올렸고, 거기서 발견한 문제를 심각한 불일치라 표현했습니다. 같은 날 《이코노미스트》가 이 주제를 표지로 다뤘을 만큼, 이는 한 사람의 경험담이 아니라 업계 전체가 주시하는 신호였습니다. 등산객에게 준 조언이 틀렸던 자리와 수학 추론이 어긋난 자리는 겉보기엔 다르지만 사실 같은 자리입니다. 그럴듯한 문장과 맞는 답을 가르는 자리이고, 그 어긋남이 실무 계산에서는 어떤 얼굴로 나타나는지가 이번 주 눈여겨봐야 할 지점입니다.

수학계는 이미 한 번 이 자리를 통과한 적이 있습니다. 2025년 5월 OpenAI가 밀레니엄 난제로 꼽히는 나비에-스토크스 방정식 관련 풀이를 발표했을 때, 100년 넘게 이 문제에 매달려온 학계의 반응은 축하가 아니었습니다. MIT 수학과 교수 한 명은 검증 가능한 증명이 뒤따르지 않는 발표는 주장에 머문다는 취지로 글을 남겼습니다. 답을 내놓는 속도는 빨라졌지만 그 답을 확인하는 절차는 여전히 사람의 몫으로 남아 있다는 지적이었고, 넉 달 뒤 테리 타오가 여러 모델을 직접 뜯어본 결과도 같은 결론에 도달했습니다.

타오가 수학 추론에서 본 어긋남은 실무 계산에서는 이런 얼굴로 나타납니다. 확인해 줄 사람이 옆에 없을 때 그럴듯한 결과물이 그대로 굳어지는 얼굴입니다. 마케팅 콘텐츠를 만드는 1인 사업자들 사이에서는 이미 익숙한 이야기입니다. AI로 뽑은 블로그 글 초안을 고객에게 넘겼다가 다시 써 달라는 요청을 받는 일이 반복되면서, 업워크에서는 AI로 만든 결과물의 수정 의뢰가 70% 늘었다는 집계까지 나왔습니다. 문장은 매끄럽고 분량도 맞는데 어딘가 어긋나 있다는 느낌, 그 어긋남을 짚어내는 사람이 다음 일감을 받습니다. 개발 쪽도 다르지 않습니다. 바이브 코딩으로 만든 서비스를 배포하기 전 AI에게 버그를 찾아 고쳐 달라고 서너 번 더 돌리는 경우가 많은데, 돌릴 때마다 뭔가 고칠 거리가 나오다 보니 아직 다 끝나지 않았다는 불안감만 쌓이고 한 번 더 돌리게 됩니다. 오탐과 실제 오류를 가려내지 못하면 검토는 끝없이 이어지고 정작 배포는 늦어집니다.

2023년 초 미국 벤처 투자사에 제출된 IR 덱에는 거의 예외 없이 우리는 GPT를 활용한다는 한 줄이 들어 있었습니다. 당시에는 이 한 줄이 실제로 차별점이었습니다. API에 접근할 수 있는 팀이 많지 않았고, 기능을 붙이려면 머신러닝 엔지니어가 필요했기 때문입니다. 지금은 그 문장만으로 투자자를 설득할 수 없습니다. AI 기능은 누구나 복사할 수 있게 됐고, 그 차이는 사업 구조에서 나옵니다.

등산객의 식량 계산이든 수학 증명이든 블로그 초안이든 코드 리뷰든, 이번 주 흐름은 한 방향을 가리킵니다. AI가 만들어내는 속도는 이미 충분히 빠르고 앞으로도 더 빨라질 것입니다. 값이 오르는 자리는 그 속도를 따라가는 사람이 아니라, 테리 타오가 그랬듯 멈춰 서서 무엇이 틀렸는지 짚어낼 줄 아는 사람 쪽으로 옮겨가고 있습니다.

이어서 읽기 →

그 밖에 읽어보면 좋은 글