여러분, 요즘 AI 관련 뉴스 보시나요? 막상 챗GPT나 클로드 써보면 신기하기도 하지만, “이걸로 뭘 더 할 수 있지?” 하는 생각이 들 때도 있잖아요. 특히 회사나 공공기관처럼 방대하고 중요한 데이터를 다루는 곳에서는 단순한 생성 AI만으로는 한계가 분명해요.
그런데 최근에 정말 흥미로운 접근법이 주목받고 있어요. 바로 ‘RAG’라는 기술인데요, 검색과 생성 AI를 결합한 거라고 생각하면 쉬워요. 마치 전문 도서관 사서에게 질문하면, 관련 책(데이터)을 찾아서 요약해주고 근거까지 설명해주는 것처럼요. 비투엔이라는 IT 회사가 이 RAG를 플랫폼으로 만든 ‘하이퍼글로리’로 공공과 대기업 시장을 공략하고 있더라고요.
솔직히 RAG 솔루션은 여러 군데서 나오고 있죠. 근데 비투엔의 차별점은 단순한 도구가 아니라 ‘플랫폼’으로 접근했다는 거예요. 데이터를 관리하고, 추론하고, 검증하고 운영하는 전 과정을 통제할 수 있는 구조를 만든 거죠. 쉽게 말해, AI가 답변을 할 때 “어디서 그런 정보를 가져왔는지”를 추적하고 설명할 수 있게 만드는 거예요. 공공기관이나 금융권처럼 보안과 정확성이 생명인 곳에선 이 설명 가능성이 정말 중요하거든요.
제일 인상 깊었던 건 실제 적용 사례였어요. 비투엔이 몽골 관세청에 구축한 AI 챗봇 서비스라네요. 수출입 품목을 설명만 입력하면, 관련 규정과 과거 사례를 뒤져서 적합한 HS 코드(세율 분류 번호)를 추천해주고, 왜 그 코드를 추천했는지 근거까지 보여준다고 해요. 복잡한 규정을 일일이 뒤지지 않아도 된다니, 업무 효율이 확 올라갈 것 같죠?
이 프로젝트가 특별한 건, 국산 AI 반도체(NPU)까지 활용했다는 점이에요. 대규모로 AI 추론을 돌릴 때 속도도 빠르고 전력 효율도 20% 이상 좋아졌다니, 기술력과 실용성을 모두 잡은 셈이에요. 우리나라 기술이 해외 공공 인프라에 적용된 첫 사례라는 점도 의미가 크네요.
이제 비투엔은 이 경험을 바탕으로 중동이나 아프리카 같은 다른 국가의 공공기관으로 사업을 확장할 계획이라고 해요. 복잡한 규제와 전문 지식이 넘치는 분야일수록 RAG의 강점이 빛을 발한다는 걸 보여준 거죠.
이 소식을 보면서, AI가 이제 단순한 대화나 창의적 작업을 넘어서 우리 사회의 실제 시스템 속으로 스며들고 있다는 걸 실감했어요. 앞으로 병원, 법원, 각종 행정 서비스까지 AI 플랫폼이 어떻게 변화시킬지 궁금해지네요. 기술이 우리 삶의 ‘번거로움’을 해결해주는 그런 날이 머지않은 것 같아요. 여러분은 어떻게 생각하시나요?
—
원문: [전자신문](https://www.etnews.com/20251230000205)