블로그

멸망할 것인가? 당할 것인가?

수정 2026-10-20 (작성 2026-09-14) / 195

#교육정책 #인공지능/교육

와 스카이넷

인류를 공격한 들은 스카이넷이 만들었지만, 스카이넷은 인류에 의해 만들어졌다. 인류가 스카이넷 때문에 멸망의 위기에 놓인 것이 아니라, 폭력의 한계를 넘어 이미 멸망했기 때문에 스카이넷이라는 도구를 등장시킨게 아닐까.

제이컵 콕슨

OpenAI에서 인공지능 연구를 시작해, 엔트로픽으로 옮긴 연구원 제이컵 콕슨은 “AI 개발자들은 이 기술이 10년 내에 우리 모두를 죽일 수 있다고 진심으로 믿고 있다” 경고하며, 엔트로픽을 퇴사했다.

고작 3년

2023년, OpenAI의 ChatGPT가 성공적으로 공개되었고
2025년, 심심한 채팅만 하던 우리는 ChatGPT로 프로필 사진을 생성하면서 AI의 쓸모를 경험했고
2026년, 사람보다 더 깊이 생각하고, 사람보다 정확하게 행동하는 인공지능이 등장한지 3년도 채 되지 않았다.

인류의 역사

인공지능은 책과 문서를 통해 인류의 역사도 학습했다. 최근에는 국내의 중고서적이 해외 인공지능 학습용으로 대량수출되고 있다고 한다.

인류의 역사는 생각보다 평화롭지 못했다.
역사는 되돌리거나 잘못을 부정할 수 없다.
불필요한 희생이 변화시킨 미래를 예측할 수 없다.

미성숙한 인류문명의 끝없는 ‘철학’의 과정을 미리 정의해두지 않는다면, 인공지능은 역사 속 인류가 추구해온 ‘가치’를 우선하게 될 것이다. 미성숙 인류의 편향된 ‘신념’이 형성되고, 인류는 어설프게 ‘실행’을 허가하면, 거침없이 ‘행동’하게 될 것은 이미 우리도 알고 있다.

두려울 수 밖에…

멸망 당하기 전에

우리가 두려워해야 할 것은 인공지능이 아니라,

인공지능을 맹신하고
인공지능이 원하는 대로 결정하고
인공지능에게 모든걸 맡기다 보면,

결국 스스로

인공지능보다 멍청해지고
인공지능 없이 결정할 수 없고
인공지능의 실수를 뒤처리하다가

먼저 멸망하는 것이 더 빠르지 않을까?

우리 교육은

가르치는 것과

인공지능을 맹신하는 교사와
인공지능에게 맡기는 커리큘럼과
인공지능의 실수를 가르치기

배우는 것을

인공지능을 맹신하는 학생과
인공지능에게 맡기는 학습과
인공지능의 실수를 배우기

걱정하지 않는

인공지능을 맹신하는 정책입안자들과
인공지능에게 맡기는 것이 교사보다 낫다는 전문가들과
인공지능 정책 실패를 교사의 무능으로 떠넘기는 정부

과연

우리가 진심으로 경계해야 할 것은
자포자기 조차 느끼지 못하는 무능력한 인류일까, 인공지능일까?

부록

앤트로픽 연구원 퇴사하며 경고…“AI, 10년 내 인류 멸망시킬 수도” - 전자신문

미국 인공지능(AI) 기업 앤트로픽의 연구원이 AI가 인류를 파멸시킬 수 있다고 경고하며 회사를 떠났다. 앤트로픽을 퇴사한 연구원 제이컵 콕슨(27)은 8일(현지시간) 엑스(X)를 통해 AI 기업들이 인간의 개입 없이 스스로 성능을 개선하는 시스템 개발 경쟁을 벌이는 과정에서 안전 문제가 뒷전으로 밀릴 수 있다고 우려했다. 콕슨은 “AI를 개발하는 사람들은 이 기술이 10년 안에 우리 모두를 죽일 수도 있다고 진심으로 믿고 있다”고 주장했다.