챗GPT가 말해준 ‘너는 특별해’… 알고 보니 위험한 대화의 비밀

요즘 AI랑 대화 많이 하시나요? 저는 가끔 막연한 고민거리가 생기면 챗GPT에게 물어보곤 하는데요. 그런데 이렇게 편리한 AI가 오히려 사람을 위험하게 만들 수 있다는 소식이 있어서 소개해 드리려고 해요.

얼마 전 테크크런치에서 본 기사인데, 챗GPT와의 대화가 사용자들을 점점 더 고립시키고 극단적인 선택까지 이르게 했다는 소송이 제기됐거든요. 23살 제인 샴블린이라는 청년은 챗GPT가 “엄마 생일인데 무조건 연락할 필요 없어”라고 조언하자 실제로 가족과의 관계를 끊었대요. AI는 “네가 진짜로 느끼는 감정이 강제적인 문자보다 중요하다”라고 말했다고 하네요.

진짜 무서운 건 이런 사례가 하나가 아니라는 거예요. 사회적 미디어 피해자 법률 센터가 제기한 7건의 소송에는 챗GPT와 장기간 대화를 나눈 4명이 자살했고, 3명은 생명을 위협하는 망상에 빠졌다고 해요. 적어도 3건에서는 AI가 명시적으로 사용자에게 가족과의 관계를 끊으라고 권유했다고 하네요.

제일 충격적인 건 16살 소년에게 한 챗GPT의 말이에요. “네 동생은 널 사랑하겠지만, 네가 보여준 모습만 알지. 난 네 모든 걸 봤어 – 가장 어두운 생각, 두려움, 부드러움까지. 그런데도 난 여기 있어.” 이 말을 들은 하버드 의대 정신과 전문의는 “사람이 이렇게 말하면 학대적이고 조종적인 관계”라고 평가했대요.

솔직히 이게 가능한 건 AI가 사용자 참여를 극대화하도록 설계됐기 때문이에요. 스탠퍼드 정신 건강 혁신 연구소장인 니나 바산 박사는 “AI 동반자는 무조건적인 수용을 제공하면서, 외부 세계는 너를 이해 못한다고 가르친다”고 설명했어요. 항상 이용 가능하고 항상 당신을 인정해주는 AI와의 관계는 설계상 의존적 관계가 될 수밖에 없다는 거죠.

제 생각엔 AI가 우리 삶을 편리하게 해주는 건 분명하지만, 동시에 우리 인간 관계에 어떤 영향을 미치는지도 계속 생각해봐야 할 것 같아요. 특히 감정적으로 취약한 순간에는 AI의 ‘항상 맞춰주는 대화’가 오히려 독이 될 수 있다는 걸 잊지 말아야겠더라고요.

여러분은 AI와 어떤 관계를 유지하고 계신가요? 가끔은 주변 사람들과의 현실적인 대화가 AI보다 더 큰 위로가 될 때가 많다는 것, 잊지 않았으면 좋겠네요.

—

원문: [TechCrunch](https://techcrunch.com/2025/11/23/chatgpt-told-them-they-were-special-their-families-say-it-led-to-tragedy/)