친구랑 카페에서 스마트폰 광고를 봤어요. 화면 가득 ‘초강력 NPU’ ‘온디바이스 AI 혁명’ 같은 문구가 흘러나오더라고요. 옆에 있던 친구가 갑자기 물었죠. “야, NPU가 뭐야? 그리고 그게 있다고 내 폰 AI가 진짜 더 똑똑해지는 거야?” 저도 순간 막혔어요. 발표회에서 수치로 보여주는 ‘성능 향상’이 일상에서 체감되게 다가오지 않았거든요.
사실 요즘 칩은 CPU, GPU만 있는 게 아니에요. ‘시스템 온 칩(SoC)’이라 해서 하나의 칩에 여러 처리 장치가 다 들어가 있는데, NPU는 그중에서 AI 계산을 특화시킨 부분이에요. 마치 공장에서 각자 전문 분야를 맡은 로봇들이 협업하는 것처럼 생각하면 돼요. CPU는 논리적인 일, GPU는 그래픽 같은 대규모 병렬 작업, NPU는 AI 모델 연산을 효율적으로 처리하는 거죠.
흥미로운 건 NPU의 탄생 비밀이에요. 퀄컴이나 미디어텍 같은 회사 사람들 말을 들어보면, NPU는 갑자기 생긴 게 아니라 ‘디지털 신호 처리기(DSP)’에서 진화했대요. 원래 DSP는 음성 인식이나 통신 신호를 처리하던 장치였는데, AI 기술이 발전하면서 점점 더 복잡한 행렬 계산을 빠르게 처리해야 했고, 그렇게 특화된 형태로 발전한 게 NPU라는 거죠. 그래서 NPU를 그냥 ‘멋진 DSP’라고 부르기도 하지만, 지금은 훨씬 더 진화해서 병렬 처리와 대규모 AI 모델 실행에 최적화됐답니다.
그런데 여기서 가장 큰 의문이 생기죠. “그렇게 성능 좋은 NPU가 있는데, 왜 ChatGPT나 미드저니 같은 중요한 AI는 다 클라우드에서 돌아가는 거야?” 제 생각엔 이게 바로 ‘이론과 현실의 괴리’인 것 같아요. 전문가들은 온디바이스 AI가 더 안전하고 개인화될 미래를 말하지만, 현재 가장 유용한 AI 기능들은 엄청난 계산량과 데이터가 필요해서 아직은 서버에서 돌리는 게 효율적이에요. 우리 폰의 NPU는 아직 보조 역할에 가깝다는 느낌이에요.
그럼 NPU는 지금 뭘 하나요? 크게 두 가지 역할을 한다고 보시면 될 것 같아요. 첫째는 프라이버시가 중요한 작업이에요. 얼굴 인식 해제나 사진 속 개인정보 자동 가리기 같은 건 데이터를 외부로 보내지 않고 폰에서 처리하는 게 안전하죠. 둘째는 ‘즉각적인 반응’이 필요한 일이에요. 예를 들어 게임 중에 AI가 실시간으로 전략을 추천해주거나, 카메라로 찍는 즉시 사진을 보정해주는 기능들 말이에요. 이럴 때 클라우드에 물어보고 기다릴 수는 없으니까요.
재미있는 건, NPU가 꼭 최고의 선택은 아니라는 점이에요. 가벼운 AI 작업은 오히려 CPU가 전력을 덜 쓰면서 처리할 수도 있고, 반대로 게임을 하면서 동시에 무거운 AI 작업을 돌려야 한다면 GPU가 더 나을 수도 있대요. 결국 NPU는 ‘도구 상자 안에 생긴 새로운 특수 공구’에 불과하다는 거죠. 상황에 맞는 도구를 쓰는 게 중요해요.
결론을 내자면, NPU 성능 수치만 보고 폰을 고르는 건 이제 좀 옛날 이야기가 될지도 몰라요. 중요한 건 ‘그 성능으로 정말 어떤 새로운 경험을 할 수 있게 되느냐’는 거죠. 칩 제조사들이 마케팅 슬로건보다는, 이 NPU가 우리 일상의 어떤 불편함을 해결해줄지 보여주는 데 더 집중했으면 좋겠어요. 아직은 NPU의 진정한 잠재력이 마케팅 속에 갇혀 있는 느낌이니까요. 다음에 폰 광고를 볼 때는 ‘NPU 성능 40% 향상’이라는 문구보다, ‘그래서 뭐가 달라지는 거지?’라고 한번 더 생각해보는 게 좋을 것 같아요.
—
원문: [Ars Technica](https://arstechnica.com/gadgets/2025/12/the-npu-in-your-phone-keeps-improving-why-isnt-that-making-ai-better/)