BLOG

CPU 대 GPU 대 NPU: 차이점은 무엇인가요?

이 페이지는 DeepL 에서 자동으로 번역되었습니다. Switch to English

AI의 등장으로 점점 더 많이 사용될 새로운 유형의 컴퓨터 칩이 등장했습니다. 지금쯤이면 CPU, GPU, 그리고 최근에는 NPU에 대해 들어보셨을 것입니다. 이러한 다양한 컴퓨팅 장치의 차이점과 이를 가장 잘 활용하는 방법에 대해 알아봅시다. 먼저 역사부터 알아보겠습니다.

(출처: 인텔)

약간의 역사

1960년대에 처음 소개된 CPU(중앙 처리 장치)는 모든 컴퓨터의 심장으로, 모든 기본 작업을 수행하는 역할을 담당합니다. 다양한 명령어와 작업을 처리할 수 있도록 다용도로 설계되어 운영 체제, 생산성 소프트웨어 및 기타 여러 범용 애플리케이션을 실행하는 데 이상적입니다. 하지만 최초의 3D 비디오 게임과 고급 그래픽 애플리케이션이 등장하면서 CPU의 한계가 분명해졌습니다. 범용 컴퓨팅용으로 설계된 이 아키텍처는 그래픽 집약적인 애플리케이션과 과학 시뮬레이션에 필요한 대규모 병렬 처리에 최적화되지 않았습니다.

그러나 그래픽 집약적인 애플리케이션과 과학 시뮬레이션에 필요한 대규모 병렬 처리에 대한 수요가 증가하면서 CPU와 수학 코프로세서의 한계가 분명해졌습니다. 이로 인해 1990년대에 그래픽 처리 장치(GPU)가 개발되었고, 이는 대량의 데이터를 병렬 처리하는 데 필수적이고 전문화된 장치로 빠르게 자리 잡았습니다. GPU(통합 그래픽 칩 또는 독립형 그래픽 카드로 제공)는 여러 연산을 동시에 수행할 수 있는 수백 또는 수천 개의 작은 특수 코어(ALU: 산술 논리 유닛)로 구축되어 그래픽 렌더링과 최근에는 딥 러닝 모델 훈련 및 배포에 이상적입니다.

지난 몇 년 동안 신경망 처리 장치(NPU)라는 새로운 카테고리가 등장했습니다. 수학 코프로세서와 GPU가 부동소수점 계산과 대용량 데이터의 병렬 처리를 가속화했다면, NPU는 이미지 인식, 자연어 처리, 머신 러닝과 같은 인공지능(AI) 및 머신 러닝 워크로드에 필수적인 행렬 곱셈과 덧셈을 효율적으로 처리하도록 설계되었습니다.

실제로 CPU, GPU, NPU는 모두 최신 컴퓨터의 작동에 필수적이지만 각각 다른 유형의 연산 및 렌더링에 최적화되어 있습니다. 자세히 살펴보겠습니다.

CPU: 다재다능한 제품

모든 컴퓨팅 장치의 핵심은 흔히 시스템의 '두뇌'라고 불리는 프로세서입니다. 복잡한 의사 결정이 필요한 애플리케이션과 작업을 관리하도록 설계된 아키텍처 덕분에 다용도 및 범용 컴퓨팅 기능으로 잘 알려져 있습니다.

강점

호환성
거의 모든 소프트웨어 애플리케이션은 CPU에서 실행되도록 설계되어 기존 시스템과의 원활한 통합을 보장합니다.
다용도성
운영 체제를 실행하든 복잡한 알고리즘을 실행하든 CPU는 다양한 워크로드를 쉽게 처리할 수 있습니다.

약점

제한된 병렬 처리
기존 CPU는 병렬 작업을 효율적으로 처리하지 못해 병렬 컴퓨팅 시나리오에서 병목 현상을 일으킬 수 있다는 한계가 있습니다.
확장 비용
AI 워크로드의 요구 사항을 충족하기 위해 CPU 기반 컴퓨팅을 구현하는 것은 특히 대규모 배포의 경우 엄청나게 비쌀 수 있습니다.

GPU: 병렬 컴퓨팅의 힘

원래 비디오 게임의 그래픽 렌더링을 위해 설계된 GPU는 딥 러닝 및 이미지 처리와 같은 독보적인 병렬 처리 기능으로 AI의 판도를 바꿔놓았습니다.

CPU와 달리 GPU는 수천 개의 연산 작업을 동시에 병렬로 수행하는 데 탁월하기 때문에 복잡한 신경망을 훈련하고 작동하는 데 필수적입니다.

강점

병렬 처리 성능
병렬 컴퓨팅에 최적화된 수천 개의 코어를 갖춘 GPU는 점점 더 사실적인 그래픽을 구현합니다. 또한 AI 워크로드를 획기적으로 가속화하여 훈련 시간을 몇 주에서 몇 시간으로 단축합니다.
확장성
여러 GPU의 성능을 병렬로 활용함으로써 조직은 진화하는 요구 사항을 충족하기 위해 AI 인프라를 원활하게 확장할 수 있습니다.

약점

구체적인 사용 사례
GPU는 병렬 처리 작업에는 탁월하지만 순차 또는 단일 스레드 애플리케이션에는 효율적이지 않을 수 있어 활용도가 제한될 수 있습니다.

NPU: AI 가속기

(출처: 인텔)

AI 혁신을 추구하는 과정에서 새로운 플레이어가 등장했습니다. 바로 NPU(신경 처리 장치)입니다. 처음부터 신경망 계산을 가속화하도록 설계된 NPU는 딥 러닝 및 AI 워크로드의 요구 사항을 충족하도록 맞춤 제작되었습니다. NPU는 하드웨어 및 소프트웨어 최적화를 통해 탁월한 성능과 전력 효율성을 제공합니다.

강점

AI 전용 최적화
NPU는 신경망의 처리 및 학습을 가속화하도록 특별히 설계되어 CPU와 GPU보다 뛰어난 성능을 제공합니다.
에너지 효율성
불필요한 연산을 최소화하고 계산 효율성을 극대화하는 NPU는 CPU 및 GPU보다 훨씬 적은 전력을 소비하므로 배터리로 구동되는 디바이스 및 IoT 애플리케이션에 이상적입니다.
엣지 컴퓨팅 기능
NPU는 짧은 지연 시간과 실시간 데이터 처리가 필수적인 엣지 컴퓨팅 환경에서 사용하기에 매우 적합합니다.

약점