AI가 무서워진 진짜 이유, 테일러 스위프트 딥페이크보다 심각한 문제

요즘 AI로 만든 이미지나 영상 보시나요? 저는 가끔 SNS에서 너무 자연스러운 AI 영상을 보면 ‘이거 진짜야?’ 싶을 때가 많아요. 그런데 이게 점점 무서운 방향으로 가고 있다는 사실, 알고 계셨나요?

테일러 스위프트랑 스칼릿 요한슨 같은 세계적인 스타들이 AI 딥페이크 피해로 고생하고 있거든요. 본인도 모르는 사이에 가짜 영상이 퍼지고, 심지어는 성적 이미지로 합성되기도 한다네요. 진짜 끔찍하죠?

근데 문제는 여기서 끝나지 않아요. 전문가들 말씀에 따르면 AI가 화학, 생물, 방사능, 핵 같은 민감한 분야의 정보까지 학습할 수 있게 되면서 훨씬 더 큰 위험이 생길 수 있다고 해요. 마치 영화에서나 나올 법한 상황인데, 실제로 이런 연구가 진행되고 있다니 좀 소름이 끼치지 않나요?

제가 스타트업에서 일하다 보니 AI 기술 발전 속도가 정말 어마어마하다는 걸 실감하는데, 안전 문제는 그 속도를 따라가지 못하고 있는 것 같아요. 미국에서는 오픈AI의 새로운 영상 생성 모델 ‘소라2’가 안전장치가 부족한 채로 출시된다고 비판받고 있더라고요.

다행히 우리나라도 다음 해 1월부터 AI기본법이 시행된다고 해요. AI 기업들은 위험을 평가하고 줄이는 체계를 만들고, 딥페이크 같은 건 반드시 ‘AI 생성물’이라고 표시해야 한대요. 또 AI 윤리 평가를 강화하고 전문 인력을 키우는 것도 중요한 과제라고 하네요.

제 생각엔 AI가 주식이나 코인 투자만큼이나 우리 삶에 깊이 들어올 테니까, 이렇게 안전에 신경 쓰는 건 당연한 것 같아요. 기술이 발전하는 만큼 우리가 어떻게 잘 사용할지 고민하는 시간이 필요한 때인 것 같네요.

여러분은 AI가 얼마나 안전해야 한다고 생각하시나요? 기술의 발전과 안전 사이에서 우리가 찾아야 할 균형은 무엇일까요?

—

원문: [전자신문](https://www.etnews.com/20251125000234)