GPU가 AI 시대의 핵심 반도체가 된 이유, CPU와의 결정적 차이점에서 답을 찾다

■ 개요

 

요즘 주식 시장에서 가장 뜨거운 단어를 하나만 꼽으라면 단연 'AI(인공지능)'와 '엔비디아'일 것입니다.

 

그런데 인공지능을 구동하는 데 왜 하필 화면을 보여줄 때나 쓰던 그래픽 카드인 'GPU'가 필수적이라는 걸까요?

 

컴퓨터의 가장 중요한 뇌라고 배웠던 'CPU'를 제치고 GPU가 AI 시대의 황태자가 된 이유를 주식 투자자의 눈높이에서 아주 쉽게 풀어드리겠습니다.

---

■ 정의

 

CPU(중앙처리장치, Central Processing Unit)는

컴퓨터의 모든 시스템을 통제하고 지시하는 '만능 천재 학자' 같은 반도체입니다.

 

반면 GPU(그래픽처리장치, Graphics Processing Unit)는

원래 모니터에 복잡한 3D 그래픽 화면을 빠르게 그려내기 위해 만들어진 '단순 계산 전문가' 집단입니다.

 

두 반도체의 결정적인 차이는 데이터를 처리하는 방식에 있습니다.

 

CPU는 한 번에 하나의 일을 순서대로 아주 빠르게 처리하는 직렬(Serial) 방식인 반면,

GPU는 수천 개의 계산을 동시에 나누어 처리하는 병렬(Parallel) 방식을 사용합니다.

 

AI 연산 효율성 = 동시 처리 가능한 데이터 양(병렬 코어 수) X 데이터 전송 대역폭

---

■ 실전 예시

 

이해를 돕기 위해 아주 쉬운 일상적인 비유를 들어보겠습니다.

 

여기에 초등학교 수준의 아주 쉬운 수학 문제 1,000문제가 수록된 시험지가 있습니다.

이 시험지를 풀 때 CPU와 GPU는 전혀 다른 방식으로 접근합니다.

 

CPU의 방식 (천재 학자 1명)

아인슈타인 같은 천재 학자 1명이 시험지를 받아 들고 1번 문제부터 1,000번 문제까지 혼자서 엄청나게 빠른 속도로 풀어제낍니다. 아무리 빨라도 혼자서 순서대로 풀어야 하므로 1,000문제를 다 푸는 데는 시간이 걸립니다.

 

GPU의 방식 (초등학생 1,000명)

수학 천재는 아니지만, 더하기 빼기는 할 줄 아는 초등학생 1,000명을 한 교실에 모아둡니다.

그리고 시험지를 한 장씩 찢어주며 "동시에 한 문제씩 풀어!"라고 외칩니다.

1,000명이 동시에 문제를 풀기 때문에, 단 1초 만에 1,000문제가 동시에 해결됩니다.

 

AI(인공지능) 학습과 추론은 고도의 수학적 추론이 아니라, 방대한 양의 데이터(빅데이터)를 한꺼번에 곱하고 더하는 단순 반복 계산의 연속입니다.

 

따라서 천재 한 명(CPU)보다, 단순 계산을 동시에 처리할 수 있는 수천 명의 아이들(GPU)이 AI 연산에 압도적으로 유리한 것입니다.

실제로 엔비디아의 AI용 GPU에는 이러한 계산 능력을 가진 '코어'가 칩 하나에 수만 개씩 들어있습니다.

---

■ 주의사항

 

투자자로서 현재 GPU 시장을 바라볼 때 주의해야 할 심화 포인트는 'GPU의 독점 체제와 대안의 등장'입니다.

 

현재 엔비디아가 AI GPU 시장의 80~90% 이상을 독점하고 있다 보니, 칩 가격이 부르는 게 값일 정도로 비싸고 구하기도 힘듭니다.

 

이 때문에 구글, 마이크로소프트, 메타 같은 빅테크 기업들은 GPU 의존도를 낮추기 위해 AI 연산에만 딱 맞춘 특화 반도체인 NPU(신경망처리장치)나 ASIC(주문형 반도체)를 직접 설계하기 시작했습니다.

 

앞으로의 AI 시장은 학습(방대한 데이터를 공부하는 단계)에서 추론(공부한 내용을 바탕으로 서비스를 제공하는 단계)의 시대로 넘어가고 있습니다.

 

학습 단계에서는 무조건 힘이 센 GPU가 절대적이었지만, 서비스 운영 단계인 추론에서는 전력을 적게 먹고 효율적인 NPU의 비중이 커질 수 있으므로, 반도체 주식 투자 시 GPU 일변도의 시장 트렌드가 어떻게 다변화되는지 반드시 관찰해야 합니다.

---

■ 핵심 요약

 

● CPU는 복잡한 명령을 순서대로 처리하는 직렬 방식인 반면, GPU는 단순한 계산을 수천 개씩 동시에 처리하는 병렬 방식입니다.

 

● 인공지능(AI)은 수조 개의 방대한 데이터를 동시에 계산해야 하므로, 병렬 처리에 특화된 GPU가 AI 시대의 필수 반도체로 자리 잡았습니다.

 

● 현재는 GPU가 시장을 지배하고 있으나, 향후 비용 절감과 서비스 고도화를 위해 빅테크 기업들이 자체 AI 특화 반도체(NPU 등)를 개발하는 추세도 주목해야 합니다.