AI 많이 쓸수록 판단력이 퇴화한다? 앤트로픽 엔지니어가 직접 경고한 '감독의 역설' (용어 정리·판단력 지키는 5단계·요청문)

챗GPT나 클로드한테 보고서 초안, 메일, 코드까지 맡기다 보면 어느 순간 이런 생각이 들 때가 있죠. "이거 내가 확인 안 해도 되겠지?" 바로 그 순간을 조심하라는 경고가, 하필 AI를 만드는 회사 안에서 나왔어요.

앤트로픽 '클로드 코드' 개발팀 엔지니어 애디 오스마니가 11월 3일(현지 시각) X에 올린 글, 그리고 앤트로픽 내부 보고서에 나온 '감독의 역설'을 AI타임스 보도 기준으로 정리하고, 직장인·학생이 바로 써먹을 수 있는 '판단력 지키는 AI 사용법'까지 묶었어요.

위 그림은 오스마니가 글과 함께 공개한 이미지예요(영문을 한국어로 옮겼어요). AI에 일을 맡기기, 판단을 미루기, 그리고 결국 항복으로 이어지는 흐름을 보여 줘요.

한눈에 보기

용어 정리: 처음 들으면 낯선 말들

오스마니가 한 말

• "AI 에이전트를 여러 개 동시에 돌려도, 결과물을 검토할 눈은 결국 한 쌍뿐이다."
• "비판적 사고를 일상에 의식적으로 넣어야 한다. 이제는 그럴 기회를 저절로 만들어 주는 게 아무것도 없다."
• "자신이 책임질 수 있는 양보다 많은 결과물을 만든다면, 그건 검토가 아니라 잘되길 바라는 것에 불과하다."
• "테스트가 통과했다면, 그게 무엇을 입증했고 무엇은 확인하지 못했는지 물어야 한다."
• "업무와 검증의 상당 부분을 AI에 맡길 수는 있지만, 책임까지 넘길 수는 없다."

AI가 좋아질수록 더 위험한 이유

예전 AI는 티 나게 틀리는 일이 많아서, 사람이 자연스럽게 한 번 더 봤어요. 지금은 답이 대부분 그럴듯하고 꽤 정확해서 꼼꼼히 볼 이유를 못 느끼게 됐다는 거예요. 정확도가 오를수록 검토가 느슨해지는 셈이죠.

앤트로픽 안에서도 나온 얘기

앤트로픽은 작년 12월 자사 엔지니어·연구원 132명 설문과 인터뷰를 분석한 보고서에서 이 문제를 짚었어요.

안드레이 카르파시(오픈AI 공동 창업 멤버)도 1월에 "작년 11월까지는 코딩의 80%를 직접 했는데, 12월엔 AI가 80%를 한다. 직접 쓰는 능력이 서서히 퇴화하는 게 느껴진다"고 털어놓은 적이 있어요. 다만 "쓰는 능력과 읽고 평가하는 능력은 다르다"고 덧붙였어요.

개발자만의 얘기일까

아니에요. 코딩 얘기로 시작했지만 구조는 똑같아요.

판단력 지키는 AI 사용법 5단계

오스마니가 제안한 방법을 일반 업무에 맞게 풀었어요. "AI를 덜 쓰자"가 아니라 "사람의 판단을 과정에 박아 두자"가 핵심이에요.

1. 맡기기 전에 내 예상부터 적기 AI에게 묻기 전에 "결과가 대충 이렇게 나올 것 같다"를 한 줄 메모해요. 나중에 AI 답과 비교하면 이상한 부분이 바로 보여요.

2. 완료 기준을 먼저 정하기 "숫자 3개가 원자료와 맞을 것, 결론이 한 문장일 것"처럼 무엇이 되면 끝인지 정해 두면, 그럴듯함에 속지 않아요.

3. 내가 책임질 수 있는 양만 만들기 하루에 꼼꼼히 볼 수 있는 양을 넘기면 검토가 아니라 '기도'가 돼요. 양을 줄이거나 중요도 순으로 검토해요.

4. "무엇을 확인했고, 무엇을 확인 안 했나" 묻기 AI가 "확인했어요"라고 해도, 실제로 뭘 대조했는지 따져요.

5. 중요한 능력은 가끔 AI 없이 해 보기 한 달에 한 번이라도 보고서 요약, 엑셀 수식, 문제 풀이를 직접 해 보면서 실력을 점검해요.

복사해서 쓰는 요청문

AI가 스스로 약점을 드러내게 하는 요청:

방금 네가 만든 답에서
1) 원자료로 확인한 부분
2) 추측하거나 일반론으로 채운 부분
3) 내가 직접 확인해야 할 숫자·사실
을 나눠서 표로 정리해 줘. 자신 없는 부분은 솔직하게 표시해.

내 생각을 먼저 끌어내게 하는 요청:

이 문제에 대해 바로 답하지 마. 먼저 내가 어떻게 생각하는지 질문 3개로 물어봐 줘. 내 답을 들은 다음에 네 의견과 차이를 알려 줘.

보고서 제출 전 셀프 검증:

아래 보고서를 상사 입장에서 읽고, 날카롭게 물어볼 질문 5개를 뽑아 줘. 각 질문에 내가 답할 수 있는지 체크할 수 있게 빈칸으로 남겨 줘.
[보고서 붙여 넣기]

공부할 때(답 대신 과정):

정답은 말하지 말고, 내가 풀이 과정을 설명하면 어디가 틀렸는지만 짚어 줘.

체크리스트: 나는 '인지적 항복' 중일까

두세 개 이상 해당되면, 위 5단계 중 1번과 4번부터 시작해 보세요.

자주 묻는 질문

Q. 그럼 AI를 쓰지 말라는 건가요? 아니에요. 오스마니도 AI 사용을 줄이기보다 사람의 판단과 검증을 과정에 명시적으로 넣으라고 했어요. 클로드 코드 팀처럼 필요할 때 AI로 코드 일부를 다시 이해하는 식의 활용도 가능하다고 했고요.

Q. 모든 걸 다 이해하고 있어야 하나요? 오스마니는 "모든 걸 직접 하거나 항상 전체를 이해할 필요는 없지만, 내가 무엇을 모르는지는 알아야 한다"고 했어요.

Q. AI 회사 직원이 왜 이런 말을 하죠? AI를 가장 많이 쓰는 사람들이라서 문제를 먼저 겪은 거예요. 앤트로픽은 내부 보고서로 이 문제를 공개적으로 다뤄 왔어요.

Q. 학생에게도 해당되나요? 네. 과제를 AI가 다 해 주면 시험장에서 쓸 실력이 안 쌓여요. 제미나이 '가이드 학습'이나 챗GPT '학습 모드'처럼 답 대신 과정을 돕는 기능을 쓰는 게 좋아요.

정리

AI가 똑똑해질수록 오히려 사람이 덜 확인하게 되고, 그만큼 확인할 실력도 줄어든다는 게 '감독의 역설'이에요. AI에게 일은 맡기되, 예상 적기, 완료 기준 정하기, 가끔은 직접 해 보기 세 가지만 습관으로 만들어도 판단력은 지킬 수 있어요.

출처

• AI타임스, "AI에 일 맡길수록 감독 능력도 퇴화…앤트로픽 엔지니어 경고"(2026-11-04)
• 애디 오스마니 X 게시글(2026-11-03)
• 앤트로픽 내부 보고서(엔지니어·연구원 132명 설문·인터뷰, AI타임스 인용)
• 이미지: 애디 오스마니(X, AI타임스 게재), 한국어 번역