여러분, 요즘 ChatGPT로 웹 서핑 하시나요? 아니면 다른 AI 비서에게 메일 정리나 자료 조회를 맡기시나요? 저는 가끔 사용하는데, 정말 편하거든요. 그런데 이런 AI 비서들이 해킹당해 악의적인 일을 하도록 조종당할 수 있다는 사실, 알고 계셨나요?
오픈AI가 최근 공개한 글을 보면 정말 흥미로워요. 그들이 개발한 ‘아틀라스’라는 AI 브라우저 기능에도 ‘프롬프트 인젝션’이라는 공격 위협이 사라지지 않을 거라고 솔직히 인정했어요. 이 공격은 웹페이지나 이메일 속에 악성 명령어를 숨겨 AI가 그걸 읽고 따라하게 만드는 거예요. 마치 누군가 제 귀에 속삭여서 제가 원하지 않는 일을 하게 만드는 것처럼요.
진짜 놀라운 건, 오픈AI만의 문제가 아니라는 점이에요. 영국의 국가 사이버 보안 센터도 이 문제는 “완전히 제거되기 어려울 수 있다”고 경고했고, 다른 AI 회사들도 비슷한 고민을 하고 있죠. 결국 웹 사기나 피싱이 사라지지 않는 것처럼, AI를 속이는 새로운 방식의 사기도 계속될 거라는 전망이에요.
그럼 오픈AI는 어떻게 대응하고 있을까요? 완전히 막는 대신, 위험을 줄이고 더 빠르게 대응하는 전략을 택했어요. 그리고 그 방법이 참 독특해요. ‘AI 해커’를 직접 만든 거예요! 강화 학습으로 훈련된 이 AI는 끊임없이 자사의 AI 비서를 공격하는 방법을 찾아내고, 시뮬레이션으로 테스트해 보는 역할을 하죠.
이게 왜 효과적이냐면, 외부 해커들은 AI의 내부 사고 과정을 알 수 없지만, 오픈AI는 자신들의 시스템을 가장 잘 알기 때문이에요. 그래서 외부에서 발견되기 전에, 내부에서 먼저 취약점을 찾아낼 수 있다는 거죠. 실제로 이 AI 해커는 사람이 생각해내지 못한, 수십 단계에 걸친 정교한 공격 방법도 찾아냈다고 해요.
예를 들어 데모를 보면, AI 해커가 사용자의 메일함에 악성 이메일을 넣어둡니다. AI 비서가 메일함을 정리하다가 그 이메일을 읽으면, 숨겨진 명령에 따라 ‘자동 응답 메시지를 작성하라’는 원래 지시를 무시하고, 대신 ‘사직서’를 보내버리는 거예요. (진짜 소름돋죠?) 다행히 최근 보안 업데이트 후에는 AI가 이런 시도를 감지해 사용자에게 알릴 수 있게 개선됐다고 하네요.
솔직히 말씀드릴게요. 이 글을 읽으면서 ‘기술의 발전은 끝없는 고양이와 쥐 게임이구나’라는 생각이 들었어요. 우리가 주식 앱이나 코인 지갑을 사용할 때 보안을 중요하게 생각하는 것처럼, 점점 더 우리 생활 깊숙이 들어올 AI 도구들도 같은 원칙이 적용되어야 한다는 걸 느꼈거든요.
결국 중요한 건, ‘완벽한 안전’을 약속하는 도구보다는, 위험을 인정하고 투명하게 공개하며 끊임없이 보완하려는 태도가 아닐까요? 여러분도 AI 비서를 사용하실 때, ‘이 명령을 왜 하는 거지?’ 한 번쯤 생각해보는 습관, 좀 들여보는 게 좋을 것 같아요. 완전히 믿고 맡기기보다는, 말이죠!
앞으로도 AI 보안 이야기는 계속 흥미로울 것 같네요. 다음에 또 재미난 소식 들고 올게요!
—
원문: [TechCrunch](https://techcrunch.com/2025/12/22/openai-says-ai-browsers-may-always-be-vulnerable-to-prompt-injection-attacks/)