[오늘의 AI] AI 혁명을 이끈 두 가지 원동력 (하드웨어)

지금 우리가 누리는 AI 기술은 단순히 알고리즘이 좋아서 탄생한 것이 아니다.
두 가지 외부요인이 뒷받침 되었기에 가능했다.
 
(1) 데이터의 홍수
디지털 혁신으로 인해 정형 데이터 뿐만 아니라
영상, 음성, 텍스트 등 방대한 비정형 데이터가 쌓이면서 AI 학습 재료가 풍부해졌다.
 
(2) 하드웨어의 진화
딥러닝의 핵심인 수조 번의 가중치 계산을 위해 GPU와 같은 병렬 연산 컴퓨팅 기술이 발달했다.
이것이 없었다면 AI의 학습은 수백 년이 걸렸을 지도 모른다.
 
오늘은 AI의 하드웨어와 관계된 이야기이다.
 
<AI와 GPU>
 
1. CPU와 GPU의 개념 정의
(1) CPU (Central Processing Unit, 중앙 처리 장치)
컴퓨터의 '지휘관'으로 복잡하고 다양한 명령어를 하나씩 빠르고 정확하게 처리하는 데 최적화된 장치이다.
·  구조: 소수의 고성능 코어(Core)로 구성
·  특징: 순차적인 데이터 처리(Serial Processing)에 강함
(2) GPU (Graphics Processing Unit, 그래픽 처리 장치)
수십 수백만 개의 단순한 계산을 동시에 수행하는 '작업반장'으로,
원래는 게임 그래픽의 수많은 픽셀을 동시에 계산하기 위해 만들어졌다.
·  구조: 수천~수만 개의 작고 효율적인 코어로 구성
·  특징: 단순 반복적인 병렬 데이터 연산에 특화
 
2. GPU가 AI에 꼭 필요한 이유
(1) 대규모 병렬 연산
AI 모델이 데이터를 학습할 때는 수조 개의 파라미터를 동시에 계산해야 한다. 
CPU는 이 일을 하나씩 순서대로 처리하느라 시간이 오래 걸리지만,
GPU는 수천 수만 개의 코어가 이 계산을 잘게 나누어 동시에 처리할 수 있다.
(아주 쉬운 산수문제 1,000개를 천재 한 명이 푸는 것보다, 평범한 학생 1,000명이 동시에 푸는 것이 훨씬 빠르게 풀 수 있음)
(2) 높은 메모리 대역폭 (HBM, 삼성전자/SK하이닉스)
AI 학습은 대량의 데이터를 끊임 없이 주고 받아야 한다. 
GPU는 한 번에 많은 양의 데이터를 메모리에서 끌어올 수 있는 넓은 통로를 가지고 있어,
연산 장치가 쉬지 않고 일할 수 있게 도움을 준다.
(3) 딥러닝 특화 코어 (Tensor Core 등)
최근 AI 전용 GPU(예: NVIDIA H100)는 인공지능의 핵심 연산인
'텐서(Tensor) 연산'만 전담하는 특수 코어를 내장하고 있다.
이는 일반적인 계산보다 AI 연산 속도를 수십 배 더 가속화하게 된다.
 
초거대 AI 모델이 등장할수록 이를 뒷받침할 하드웨어의 중요성은 더욱 커질 것이다.
우리가 매일 사용하는 AI 서비스 뒤에는 보이지 않는 곳에서
수조 번의 계산을 묵묵히 수행하는 하드웨어의 혁신이 자리 잡고 있음을 기억해야 한다.