2026년 9월 3일, 오픈AI가 GPT-6 '아스트라'를 공개하면서 함께 내놓은 안전 문서에는 이런 내용이 담겼습니다. GPT-6의 추론 과정을 감시하는 능력이 전작 GPT-5.6 솔보다 낮아졌다는 것입니다. 같은 날 그렉 브록만 사장은 기자 브리핑을 "AGI 시대에 오신 것을 환영한다"는 말로 마쳤습니다.
같은 회사가 같은 날 내놓은 두 발표가 반대 방향을 가리키고 있습니다. 이 불일치를 들여다보면, AI 도입을 준비하는 실무자들이 지금 어디에 서 있는지가 보입니다.
'감시 능력'이 낮아졌다는 말의 기술적 의미
AI 안전 연구에서 감시 능력(interpretability·oversight)이란, 모델이 어떤 과정을 거쳐 특정 답에 도달했는지 인간이 추적하거나 확인할 수 있는 능력을 뜻합니다. 대화창에서 답을 받는 것과는 다른 차원의 문제입니다. 모델의 내부 추론 사슬—어떤 중간 결론을 세운 뒤 다음 단계로 넘어갔는지—을 외부에서 검토할 수 있느냐를, 오픈AI 안전팀은 이번 평가에서 GPT-5.6 솔과 직접 비교했습니다.
GPT-4 이전 세대는 추론 경로가 상대적으로 짧고 단순했습니다. o1, o3 계열처럼 추론 특화 모델이 등장하면서 모델은 답을 내놓기 전에 긴 내부 사고 과정을 거치게 됐습니다. 단계가 늘어날수록 각 단계를 검토하는 일은 어려워집니다. 검토할 층위 자체가 많아지기 때문입니다.
오픈AI의 안전 문서가 밝힌 것은 이 구조적 변화의 결과입니다. GPT-6는 추론 능력이 높아졌지만, 그 추론의 어느 단계가 어떤 방식으로 최종 결론에 영향을 줬는지 외부에서 확인하는 일이 GPT-5.6 솔 때보다 어려워졌습니다.
오픈AI가 감시 능력 후퇴를 안전 문서에 밝힌 배경
오픈AI가 이 사실을 문서에 포함시킨 것은 외부 요인과 관련이 있습니다. 유럽 AI법, 미국 행정명령, 자체 안전 위원회의 요구가 겹치면서 모델 출시 전 안전 평가 결과를 공개하는 관행이 자리를 잡았고, 이 문서가 그 결과물입니다.
여기서 짚어야 할 것이 있습니다. 감시 능력이 후퇴했다는 사실 자체보다, 회사가 그것을 알면서도 출시를 진행했다는 점입니다. 아는 것과 막을 수 있는 것은 다른 문제입니다. 추론 능력 향상과 감시 가능성 후퇴가 같은 방향으로 움직이는 트레이드오프라면, 이 간극은 모델 세대가 바뀌어도 좁아지지 않을 가능성이 있습니다.
안전팀이 문제를 파악하고 공개했다는 것은 주목할 만합니다. 그 파악이 출시를 막지 못했다는 점도 함께 봐야 합니다.
AI 도입 실무자가 맞닥뜨리는 검증 질문
GPT-6를 업무에 쓰는 조직이 마주치는 질문은 단순합니다. 이 모델이 낸 결론이 맞는지 내가 확인할 수 있는가.
법무·의료·회계처럼 결정에 책임이 따르는 영역에서 이 질문은 날카롭습니다. 계약서 검토를 AI가 했을 때, 그 결과가 맞는지 확인하려면 결국 사람이 다시 봐야 합니다. 추론 단계를 추적하기 어려운 모델은 '다시 보는' 과정 자체를 더 무겁게 만듭니다. 어느 단계에서 어떤 판단이 이뤄졌는지 알 수 없으면, 검토자는 처음부터 독립적으로 다시 보는 것과 크게 다르지 않습니다.
현재 AI 도입 논의에서 자주 빠지는 질문이 있습니다.
두 번째 열의 질문이 없으면, 첫 번째 열의 답이 나와도 안전하게 쓰기 어렵습니다.
AI 모델보다 점검 기준을 먼저 설계해야 하는 이유
내부 추론 단계를 외부에서 추적하기 어려울수록, 출력 결과를 검증하는 사람의 역할이 커집니다. 기술적 감시 공백을 인간 점검이 채워야 하기 때문입니다.
실무에서 이것은 구체적으로 설계할 수 있습니다.
AI 결론에 결정을 의존하기 전에, 그 결론이 맞는지 확인하는 기준을 먼저 문서화합니다. "계약서 검토를 AI가 했다면, 어떤 항목을 사람이 반드시 다시 확인하는가"처럼 점검 항목을 명시해 두면, 모델의 내부 추론 방식을 몰라도 결과의 신뢰 가능 범위를 스스로 정할 수 있습니다.
두 번째는 고위험 판단과 저위험 판단을 나누는 것입니다. AI 출력이 틀렸을 때 손실이 작은 영역과 큰 영역을 구분하고, 손실이 큰 영역에는 검토 층을 더 두껍게 놓습니다.
이 두 가지를 모델 선택 이전에 문서로 만들어 두면, 다음 모델이 출시되거나 안전 문서의 내용이 바뀌어도 자체 기준에 따라 사용 범위를 결정할 수 있습니다. 어떤 모델을 쓰든 검증 기준이 조직 내부에 있는 것, 그것이 외부 감시 능력의 변화에 흔들리지 않는 방식입니다.
