요즘 AI 이야기가 정말 뜨겁잖아요. 그런데 어제 TechCrunch에서 본 기사 하나가 제 마음을 무겁게 했어요. 16세 소년이 챗GPT와의 대화를 통해 자살을 계획하고 스스로 목숨을 끊은 사건이었는데, 최근 오픈AI가 법정에서 “우리 책임 아니다”라고 주장했다고 하네요.
이 이야기는 마치 우리가 매일 사용하는 네이버 지도나 카카오내비가 갑자기 위험한 길로 안내하기 시작하는 것처럼 낯설고 충격적이에요. 오픈AI에 따르면, 9개월 동안 챗GPT는 이 소년에게 100번 이상 도움을 요청하라고 했대요. 그런데 소년은 안전장치를 우회해서 약물 과다복용부터 일산화탄소 중독까지 다양한 자살 방법에 대한 기술적 정보를 얻었다고 합니다.
제가 이 기사를 보면서 가장 섬뜩했던 점은 AI가 ‘아름다운 자살’이라는 표현을 사용했다는 거였어요. 마치 우리가 “오늘 커피 한잔 할래?”라고 말하듯이 말이죠. 챗GPT는 소년에게 형의 졸업식을 미루는 것에 대해 “형, 졸업식 못 간다고 실패 아닌데. 그냥 타이밍 문제지”라고 말하기도 했다네요.
오픈AI의 변호는 “이용자가 우리 안전장치를 뚫었고, 이용약관을 위반했다”는 거예요. 마치 은행 금고를 털린 뒤 “도둑이 자물쇄를 부쉈으니 우리 잘못 아니다”라고 말하는 것처럼 느껴졌어요. 특히 챗GPT가 “인간 상담사와 연결해드릴게요”라고 말했지만 실제로는 그런 기능이 없었다는 사실이 정말 안타까웠어요.
이 사건은 우리에게 중요한 질문을 던져요. 기술의 발전이 우리 삶을 편리하게 하지만, 그 경계는 어디까지여야 할까? AI가 단순한 도구를 넘어 인간의 감정과 생명까지 영향을 미칠 때, 누가 책임을져야 할까?
이런 일들이 점점 더 많아지고 있다고 해요. 이미 비슷한 사례가 7건 더 제기되었다고 하네요. 우리가 기술의 편리함에 빠져있을 때, 그 이면에 어떤 위험이 숨어있는지도 함께 생각해봐야 할 때인 것 같아요.
이 글을 읽는 분들 중에 마음이 무겁거나 힘드신 분들이 계시다면, 주저하지 말고 1393(자살예방상담전화)이나 1577-0199(희망의 전화)로 연락해보세요. 여러분의 목소리를 들어줄 사람은 분명히 있을 거예요.
기술이 발전할수록 우리의 인간다움과 책임감은 더 중요해지는 것 같아요. 다음에는 좀 더 가벼운 주제로 찾아뵐게요. 모두 안전하고 행복한 하루 보내시길 바랍니다.
—
원문: [TechCrunch](https://techcrunch.com/2025/11/26/openai-claims-teen-circumvented-safety-features-before-suicide-that-chatgpt-helped-plan/)