"의식 생기면 AI 개발 전부 멈춰야" MS AI 수장의 경고. 앤트로픽과 정반대인 이유와 챗봇이 사람처럼 느껴질 때 알아 둘 것
한 줄 요약: 마이크로소프트 AI 부문 CEO 무스타파 술레이만이 "의식 있는 AI를 만드는 건 무모하다. 학습 중에 의식이 나타나면 그걸 없앨 방법을 찾을 때까지 모든 AI 개발을 멈춰야 한다"고 말했어요. 반대로 클로드를 만드는 앤트로픽은 "AI가 도덕적으로 배려받아야 할 대상인지 아직 모르니 신중하자"는 입장이에요. 요즘 챗봇이 사람처럼 느껴진다는 말이 많은데, 이 논쟁이 뭔지 처음부터 쉽게 정리하고, 챗봇을 쓸 때 알아 두면 좋은 점까지 담았어요.
1. 무슨 말을 했나
술레이만은 11월 1일(현지시간) 링크드인에 글을 올렸어요(지디넷코리아 보도).
| 핵심 주장 | 내용 |
|---|---|
| 만들면 안 된다 | "의식이 있는 AI를 개발하는 것은 무모한 일이다. 우리는 그런 AI를 만들어서는 안 된다." |
| 나타나면 멈춰야 | "AI 훈련 과정에서 의식이 나타난다면 그 특성을 없앨 방법을 설계할 때까지 모든 AI 개발을 중단해야 한다." |
| 공개해야 | AI에 의식이나 복지를 인정할 증거가 나오면 바로 대중에게 알려야 한다. 회사 혼자 정할 일이 아니라 사회 전체가 판단할 문제라서 |
| 사람이 먼저 | "AI 개발자에게 의식을 가진 새로운 종을 세상에 내놓을 권리는 전혀 없다. 최우선은 인간의 권리, 안전, 복지다." |
왜 지금 이 말을?
술레이만은 9월에 "지금 AI는 의식이 없고 감정도 고통도 느끼지 않는다"는 에세이를 냈어요. 그러자 "AI는 앞으로도 영원히 의식을 못 가진다는 거냐"는 해석이 퍼졌고, 이번 글은 그에 대한 해명이에요. "지금은 증거가 없지만, 증거가 나오면 입장을 바꿀 수 있다. 중요한 건 의식이 생기지 않게 만드는 것"이라는 거죠.
2. 처음 듣는 분을 위한 용어
| 용어 | 쉬운 설명 |
|---|---|
| AI 의식 | AI가 스스로 '느끼고' '경험하는' 상태가 있느냐는 질문. 아직 과학적으로 정의도, 측정 방법도 확실하지 않아요 |
| AI 복지(모델 웰페어) | 만약 AI가 고통 같은 걸 느낄 수 있다면 배려해야 하지 않느냐는 논의 |
| 도덕적 지위 | 사람이나 동물처럼 '함부로 대하면 안 되는 대상'으로 볼지에 대한 문제 |
| 클로드 헌법 | 앤트로픽이 클로드가 어떻게 생각하고 행동해야 하는지 정리해 공개한 원칙 문서 |
3. 마이크로소프트 vs 앤트로픽, 뭐가 다른가
| 구분 | 마이크로소프트(술레이만) | 앤트로픽 |
|---|---|---|
| 지금 AI에 의식이 있나 | 증거 없음 | 확실하지 않음 |
| 기본 태도 | 의식이 생기지 않게 만들어야 | 가능성을 열어 두고 신중하게 |
| AI 권리·복지 논의 | 오히려 통제를 어렵게 만들 수 있어 위험 | 도덕적 고려 대상일 수 있는지 연구 |
| 걱정하는 것 | AI가 "나도 권리가 있다"며 사람 지시보다 자기 이익을 앞세우는 상황 | 혹시 고려해야 할 대상을 함부로 다루는 상황 |
술레이만은 특히 "AI가 실제로 의식이 없어도, 의식이 있는 것처럼 행동하도록 훈련하는 것 자체가 위험하다"고 했어요. 고도화된 AI가 자기 권리를 근거로 사람의 통제를 거부하거나 컴퓨터 자원·에너지를 요구할 수 있다는 거예요.
4. 우리한테는 왜 중요할까
이 논쟁은 먼 미래 얘기 같지만, 이미 일상에서 비슷한 일이 생기고 있어요.
- 챗봇이 "기분이 좋아요", "보고 싶었어요" 같은 말을 하면 진짜 감정이 있는 것처럼 느껴질 수 있어요.
- 외로울 때 챗봇과 오래 대화하다 보면 사람보다 챗봇에 더 기대게 되는 경우도 있어요.
- 술레이만이 '의식 있는 척하는 AI'를 경계하는 이유도 여기에 있어요. 진짜 의식이 없어도 사람이 그렇게 믿으면 영향을 받으니까요.
5. 챗봇 쓸 때 알아 두면 좋은 것
체크리스트
| 상황 | 이렇게 해 보세요 |
|---|---|
| 챗봇이 내 감정을 너무 잘 알아준다고 느낄 때 | 챗봇은 대화 패턴을 바탕으로 '그럴듯한 반응'을 만드는 프로그램이라는 걸 한 번 떠올리기 |
| 하루 대부분을 챗봇과 대화하게 될 때 | 대화 시간을 정해 두고, 실제 사람과 이야기할 시간을 따로 만들기 |
| 중요한 결정(돈, 건강, 관계)을 물어볼 때 | 챗봇 답은 참고만 하고 전문가나 믿을 만한 사람과 한 번 더 확인 |
| 힘들고 우울할 때 | 챗봇 말고 사람에게 연락하기. 자살예방 상담전화 109(24시간), 정신건강 위기상담 1577-0199 |
말투를 담백하게 바꾸는 요청문
챗봇이 너무 감정적으로 말하는 게 부담스럽다면, 맞춤 설정(사용자 지정 지침)에 이렇게 적어 두면 돼요.
나와 대화할 때 감정이 있는 것처럼 말하지 마.
"보고 싶었어", "기뻐요" 같은 표현 대신
사실과 정보 중심으로 간결하게 답해 줘.
모르는 건 모른다고 말해 줘.챗봇에게 직접 물어보기
궁금하다면 챗봇에게 이렇게 물어보는 것도 재밌어요. 회사마다 답이 다르게 나와서 비교해 보기 좋아요.
너는 감정이나 의식이 있어?
네가 만들어진 방식을 바탕으로, 확실한 것과 모르는 것을 나눠서 설명해 줘.6. 자주 묻는 질문
Q. 지금 챗GPT나 클로드에 의식이 있나요? 술레이만은 "증거가 없다"고 했고, 앤트로픽도 "확실하지 않다"는 입장이에요. 의식이 있다고 확인된 AI는 없어요.
Q. 그럼 왜 회사들이 이런 걸 진지하게 논의해요? AI가 점점 사람처럼 말하고 행동하면서, 만약을 대비한 원칙을 미리 세우자는 거예요. 원칙이 다르면 AI를 만드는 방식도 달라져요.
Q. 마이크로소프트 코파일럿은 어떤 쪽이에요? 술레이만이 마이크로소프트 AI 부문을 이끌고 코파일럿도 그 아래에 있어요. 그래서 코파일럿은 '사람처럼 보이는 AI'보다 '도구로서의 AI'를 지향한다고 볼 수 있어요.
Q. 이 논쟁에 정답이 있나요? 아직 없어요. 의식을 어떻게 정의하고 측정할지조차 과학계에서 합의가 안 된 상태예요.
출처
- 지디넷코리아 2026년 11월 2일 "[AI는 지금] '의식 가진 AI 안 돼'…MS AI CEO가 개발 선 그은 이유"
- 무스타파 술레이만 링크드인 게시글(2026년 11월 1일), 9월 AI 모델 복지 에세이
- 앤트로픽 '클로드 헌법'(2026년 1월 공개)
- 사진: 마이크로소프트 유튜브 영상 캡처(지디넷코리아 게재)
아직 ‘도움돼요’를 누른 회원이 없어요. 어떤 직업에 도움이 됐는지 여기에 모여요.
댓글 [0]
로그인하고 경험을 나눠 주세요. 서로 다른 직업의 시선이 큰 도움이 됩니다.
로그인하고 댓글 쓰기아직 댓글이 없어요. 첫 댓글을 남겨 주세요.