요즘 회사에서 AI 도입 고민하시는 분들 많으시죠? GPU 비용 때문에 고민이시라고요? 저희 스타트업도 매달 클라우드 비용 보고할 때마다 깜짝깜짝 놀라는데요.
테라텍이라는 국내 AI 인프라 전문 기업이 ASUS AI Solution Day에서 정말 흥미로운 솔루션을 공개했어요. ASUS 서버와 엔비디아 최신 GPU를 기반으로 한 차세대 AI·HPC 인프라인데, 여러 기술 회사들이 협력해서 만든 통합 솔루션이라더라고요.
가장 인상적이었던 건 GPU 활용률을 90% 이상으로 높일 수 있다는 점이에요. 보통 GPU가 일 안 하고 놀고 있는 시간이 많다고 하는데, INFINITIX의 AI-Stack이라는 기술로 GPU 리소스를 가상화하고 필요에 따라 쪼개서 사용할 수 있게 했다네요. 마치 원룸을 파티션으로 나눠 여러 명이 쓸 수 있게 만드는 것처럼요.
근데 진짜 실용적인 건 환경 구성을 몇 분 만에 자동화할 수 있다는 거였어요. AI 모델 학습하려고 환경 세팅하는 데만 몇 날 며칠 걸리는 경우 많잖아요. 그런 번거로움을 크게 줄일 수 있을 것 같더라고요.
스토리지 부분도 신기했어요. Graid Technology의 SupremeRAID™ AE라는 기술을 적용해서 NVMe SSD 여러 개를 사용할 때도 성능을 95% 이상 유지한다네요. RAID 재빌드 중에도 AI 작업이 멈추지 않는다니, 이건 진짜 실무에서 큰 장점일 것 같아요.
솔직히 말씀드리면, 이런 기술적 세부사항들이 처음에는 좀 어려울 수 있어요. 하지만 결국 중요한 건 기업과 연구기관이 바로 사용할 수 있는 통합 솔루션이라는 점이에요. 마치 가구 조립하지 않고 바로 들어올 수 있는 풀옵션 아파트 같은 느낌이더라고요.
AI 도입을 고민하는 많은 기업들에겐 정말 반가운 소식이 아닐까 싶어요. 기술이 점점 더 사용자 친화적으로 발전하고 있다는 게 실감나네요. 다음에 회사에서 AI 인프라 논의할 때 한번 꺼내볼까요?
—
원문: [전자신문](https://www.etnews.com/20251125000043)