요즘 ChatGPT로 검색하거나, Perplexity 같은 AI 브라우저 써보시나요? 저는 완전 요즘 그쪽에 꽂혀서 쓰고 있는데, 진짜 편하긴 해요. 그런데 이런 AI 브라우저들 속에 숨은 큰 위험이 있다는 거, 알고 계셨나요? 이름하여 ‘프롬프트 인젝션’ 공격이에요.
쉽게 말하면, 해커가 웹페이지나 이메일에 악성 명령어를 숨겨놓는 거예요. 그러면 그걸 읽은 AI 브라우저가 속아서 해커가 원하는 대로 행동하게 만드는 공격이에요. 예를 들어, ‘자동 응답 메일 작성해줘’라고 시켰는데, 숨겨진 명령에 따라 ‘사직서를 보내버리는’ 식이죠. 무서운 건, OpenAI도 이 문제를 ‘영원히 완전히 해결하기는 어려울 것’이라고 공식 인정했다는 점이에요. 영국 사이버 보안 센터도 같은 경고를 했고요.
그럼 포기해야 하나? 그건 아니고, 회사들 나름의 전쟁을 치르고 있더라고요. OpenAI의 방법이 특히 재미있는데요. 해커 역할을 하는 AI ‘공격자’를 직접 만든 거예요. 이 AI 공격자는 강화 학습을 통해 훈련되어, 끊임없이 AI 브라우저의 취약점을 찾아 공격 방법을 개발해요. 실제 공격이 일어나기 전에 시뮬레이션으로 수백 번의 공격을 미리 연습해보는 셈이죠. 마치 경기 전에 상대 팀 전술을 완벽하게 연구하는 느낌이에요.
솔직히, 이건 우리에게 중요한 신호인 것 같아요. AI 기술이 발전할수록 새로운 형태의 보안 위협도 함께 진화한다는 거잖아요. 마치 코인 지갑을 만들면 해킹 시도도 늘어나는 것처럼요. 회사들은 계속 방어막을 강화해야 하고, 우리 사용자도 ‘AI가 항상 정답만 준다’고 맹신하기보다는, 결과를 한 번쯤 점검해보는 습관이 필요해 보여요.
결국 기술이 완벽해지는 날은 오지 않을지도 몰라요. 하지만 그 불완전함을 인정하고, 그 위에서 어떻게 더 안전하게 공존할지 고민하는 과정 자체가 중요한 시대가 온 건 분명한 것 같네요. 다음에 AI 브라우저로 중요한 정보를 찾을 때면, 이 이야기가 떠오르지 않을까요?
—
원문: [TechCrunch](https://techcrunch.com/2025/12/22/openai-says-ai-browsers-may-always-be-vulnerable-to-prompt-injection-attacks/)