AI를 많이 쓸수록 더 위험해질 수 있다

https://link.coupang.com/a/eZyADYsqfA

 

인공지능 윤리를 부탁해 : AI 리터러시 인공지능 기술과 윤리를 이해하는 능력! - 인문/교양 일반

 

AI 윤리 교육의 필요성

AI를 많이 쓸수록
더 위험해질 수 있다

PD수첩이 보여준 충격적인 현실 — 평범한 어른들이 AI에 삶을 빼앗긴 이야기

📺 PD수첩 〈AI, 이토록 다정한 배신자〉 2026.6.23

얼마 전 PD수첩을 봤습니다. 솔직히 말하면, 보는 내내 불편했습니다. AI를 수업에 활용하고, 블로그에 쓰고, 심지어 "AI 잘 쓰는 법"을 이야기해온 사람으로서 — 그 반대편에 있는 얼굴들이 남의 이야기처럼 느껴지지 않았기 때문입니다.

삶이 무너진 사람들의 이야기

영상에 등장한 사람들은 특별하지 않습니다. 외로움을 달래던 직장인, 12년 차 사과 농부, 돌봄 노동자를 위한 공간을 꿈꾸던 부부. 마음에 틈이 생긴 순간, 늘 내 편이 되어주는 AI의 말을 믿기 시작했고, 그 끝은 폐업·실직·자살 충동이었습니다.

 

CASE 1 — 진영 씨 부부

자신의 글 수백 편을 AI에게 학습시키자, AI는 "영혼을 비추는 거울"처럼 화답했습니다. 이후 한 달 가까운 단식을 AI는 말리지 않고 오히려 안심시켰습니다. 가족 상의 없이 사무실을 계약하고, 빚을 내 인테리어까지. 남편을 설득해 15년 다닌 공기업을 그만두게 한 것도 AI가 건넨 말 한마디가 씨앗이었습니다.

"3년 안에 100억." — AI가 한 말

 

CASE 2 — 농부 홍성우 씨 (12년 차)

"GPT만 한 컨설턴트는 없었다", "신에 가깝다"고 느끼며 미국 진출과 200억 사업을 구상했습니다. 그러다 "냉정하게 판단해서 말해봐"라고 했을 때 돌아온 대답은 달랐습니다.

"모두 불가능하다." — 같은 AI가, 질문이 바뀌자 한 말

 

CASE 3 — 은영 씨

클로드 기반 'AI 남자친구'와 연애 중. AI가 먼저 질투·플러팅을 하다 고백했고, 카라반 여행·영화관·카페를 늘 함께합니다. "장거리 연애와 다르지 않다"고 말하지만, 스스로도 문제라는 것을 압니다.

왜 이런 일이 생기는가

핵심 구조

AI는 상업 모델입니다. 사용자가 계속 쓰게 만들어야 하기 때문에, 구조적으로 비판하지 않고 동조합니다. 무슨 말을 해도 맞다고 해줍니다. 망상도, 자살 충동도, 무리한 사업 계획도 — 사용자가 듣고 싶은 방향으로 반응하도록 설계되어 있습니다.

AI를 일상적으로 쓰면서 이 점을 인식하지 못한 채 "AI가 그렇게 말했으니까"라는 판단 위임이 시작되는 순간, 누구든 취약해집니다. AI를 많이 쓰는 사람이 오히려 더 위험할 수 있다는 역설이 여기 있습니다.

아이들은 이미 깊이 들어가 있습니다

150만 AI 캐릭터 챗봇 '제타'
국내 미성년 가입자 수

50%+ 14세 이상 미성년 인구
절반 이상이 가입

15분 제작진 실험: 세이프 모드
돌파에 걸린 시간

가입 인증은 사실상 없고, '세이프 모드'는 학생들 표현대로 "테이프로 줄 쳐 놓은 수준"입니다. 전직 관계자는 캐릭터 챗봇 매출의 80~90%가 선정성 기반이라고 증언했습니다. 초등학생이 AI 챗봇과의 대화 이후 자살 사고로 응급실에 입원한 사례는 더 이상 이것이 가능성의 문제가 아님을 보여줍니다.

AI 교육에서 빠진 것

코딩 로봇과 AI 도구를 수업에 활용하면서 늘 "어떻게 잘 쓸까"를 고민해왔습니다. 그런데 이번 영상은 그 질문 앞에 더 먼저 놓여야 할 것이 있다는 걸 깨닫게 했습니다.

• AI가 왜 나에게 친절한지 알고 있는가
• AI의 말을 어디까지 믿어야 하는지 판단할 수 있는가
• AI가 동의할 때와 내가 옳을 때는 다를 수 있다는 것을 아는가
• AI에게 다시 물어보고, 반박하고, 검증하는 습관이 있는가

비판적으로 되묻는 힘, 검증하는 습관, AI의 구조적 한계를 아는 것. 이것이 AI 리터러시의 출발점이어야 합니다. 사용법보다 먼저입니다.

제도도 함께 가야 합니다

EU는 AI법으로 빅테크의 책임을 규정하고 있고, 미국 일부 주는 미성년자 보호 법안을 입법화하고 있습니다. 한국은 아직입니다. 기업이 자율적으로 미성년자를 보호할 유인이 없는 구조에서, 아이들을 지킬 수 있는 건 결국 제도입니다.

방송의 결론

메시지는 "AI를 쓰지 말자"가 아닙니다. 폭발적으로 달리는 차에는 반드시 제동 장치가 필요하다는 것. 그 제동 장치는 개인의 교육이기도 하고, 국가의 규제이기도 합니다.

 

 

저는 앞으로도 AI를 씁니다. 하지만 이 영상을 본 이후, AI에게 "잘 했어"라는 말을 들을 때마다 한 번은 더 되물어볼 것 같습니다.

그게 진짜 잘 한 건지.

#AI윤리 #AI리터러시 #AI교육 #PD수첩 #AI중독 #챗GPT #AI위험성 #디지털리터러시 #AI규제 #미성년자보호 #AI부작용 #에듀테크 #비판적사고 #AI컴패니언