요즘 AI로 만든 이미지나 영상 보면서 ‘와, 이거 진짜 같다!’ 싶었던 적 있으시죠? 저는 요즘 생성형 AI가 만든 콘텐츠를 볼 때마다 감탄보다는 좀 무서워지기 시작했어요.
테일러 스위프트 같은 글로벌 스타부터 시작해서 일반인까지, 본인도 모르는 사이에 AI 합성 영상에 휘말리는 사례가 급증하고 있거든요. 단순한 장난이 아니라 성적 이미지 합성이나 허위 발언 영상까지 만들어지면서 사회적 문제가 되고 있어요.
근데 진짜 충격적인 건 이제 AI 위험이 단순한 가짜 뉴스를 넘어서고 있다는 점이에요. 전문가들 말씀에 따르면, AI가 화학·생물·방사능 같은 민감한 분야의 지식을 학습하면 물리적 위험까지 초래할 수 있다고 해요. 생각만 해도 소름이 끼치죠.
그래서 내년부터는 AI 기본법이 시행된대요. 고위험 AI 기업들은 개발 단계부터 위험을 평가하고, AI로 만든 콘텐츠에는 반드시 표시를 해야 한다고 하네요. 딥페이크 영상 볼 때 ‘아, 이건 AI구나’ 하고 바로 알 수 있게 말이에요.
솔직히 말해서, AI 기술이 이렇게 빠르게 발전하는 건 정말 대단해요. 하지만 동시에 우리가 안전하게 사용할 수 있는 환경이 따라주지 않으면 결국 모두가 불안해질 거라는 생각이 들어요. 기술 발전만큼이나 신뢰성을 높이는 게 정말 중요하네요.
여러분은 AI가 만들어내는 콘텐츠를 보면서 어떤 생각하시나요? 기술의 편리함과 위험성 사이에서 우리가 진짜 고민해야 할 점이 뭘까요?
—
원문: [전자신문](https://www.etnews.com/20251125000234)