요즘 AI 쓰시나요? 저는 거의 매일 ChatGPT랑 놀고 있는데요, 가끔은 ‘이거 진짜 안전한 걸까?’ 하는 생각이 들 때가 있더라고요. 특히 딥페이크나 개인정보 유출 같은 뉴스를 보면 더 그렇습니다.
그런 고민을 해결해주는 곳이 우리나라에도 생겼다는 거, 아시나요? 바로 AI안전연구소인데요, 어느덧 개소 1주년을 맞이했네요! 시작할 때는 10명 남짓한 작은 팀이었는데, 지금은 전 세계 10여 개국과 협력하면서 한국의 AI 안전 연구를 국제 무대에서 인정받는 수준까지 올렸답니다.
진짜 대단한 건 해외에서 ‘한국 팀이 너무 열심히 일한다’는 평가를 받고 있다는 점이에요. 영국, 싱가포르, 일본 같은 AI 강국들까지 ‘같이 일하고 싶은 파트너’로 꼽을 정도로 우리 연구소의 평가 능력이 인정받고 있죠.
이 연구소가 실제로 어떤 일을 하냐면, 국내외 AI 모델들의 안전성을 테스트한대요. 고위험 프롬프트에 어떻게 반응하는지, 편향은 없는지, 어떤 리스크가 있는지까지 꼼꼼하게 검사합니다. 김명주 소장님 말씀으로는 이제 영국 수준의 평가는 당장 해도 될 만큼 역량이 올라왔다고 하시더라고요.
근데 제일 마음에 드는 건 이 연구소의 철학이에요. AI 안전 검증을 ‘규제’가 아니라 기업들의 ‘셰르파’ 역할로 본다는 거죠. 마치 등반할 때 길 안내하고 도와주는 셰르파처럼, 기업들이 숨은 위험을 미리 발견하고 기술을 더 완성도 있게 만들 수 있도록 돕는 거랍니다.
앞으로는 딥페이크나 AI 오용 관련 민원을 처리하는 통합 채널도 만들고, 우리 일반인들을 위한 AI 안전 교육도 강화할 계획이라고 해요. 결국 목표는 ‘한국의 AI는 정말 안전하다’는 글로벌 신뢰를 얻는 것이죠.
스타트업에서 일하는 저로서는 이런 안전 장치가 있다는 게 참 든든하게 느껴지네요. 기술이 빨리 발전하는 만큼 안전도 따라와야 하니까요. 다음에 AI 쓰실 때면 ‘우리 연구소에서 테스트했겠지?’ 하고 조금 더 안심해도 될 것 같습니다!
—
원문: [전자신문](https://www.etnews.com/20251121000151)