엔비디아를 위협하는 구글

엔비디아가 신경쓰는 단 하나의 맞춤형 인공지능 반도체 회사 구글이 본격적인 움직임을 보이고 있습니다. 지난 10년간 꾸준히 개선해온 텐서처리장치(TPU) 최신 제품이 최근 메타, 엔트로픽 등 거대 고객의 주목을 받고 있는데요. 오늘은 TPU에 대해 알아보겠습니다.

​

TPU는 Tensor Processing Unit의 약자로 구글이 딥러닝, 머신러닝 연산을 빠르게 처리하기 위해 만든 특수 목적 하드웨어 가속기입니다.

즉 인공지능 학습,추론을 빠르게 수행하도록 설계된 반도체입니다.

​

딥러닝 계산은 행렬과 텐서 연산*이 거의 대부분인데

이 계산은 매우 방대하고 반복적이기 때문에

CPU나 CPU만으로는 속도가 느리고 에너지 소모가 큽니다.

​

* 딥러닝 학습 과정에서 입력 데이터와 가중치를 곱하고 더하는

행렬 및 텐서 단위의 수학 연산입니다.

​

TPU의 행렬 곱셈 장치는 수천~수만개의 곱셈, 덧셈을 동시에 처리하는

대규모 행렬 연산기를 내장하고 있으며,

대용량 HBM 메모리를 기반으로 AI 모델이 필요로 하는 데이터 접근 속도도 극대화, 구글 텐서플로(AI프레임워크)에 최적화된 궁합으로 AI학습 속도를 극적으로 개선하였습니다.

​

구글은 이 TPU를

1. 구글 검색(검색결과정렬 및 추천 모델)

2. 유튜브(영상 추천 알고리즘)

3. Gmail(스팸 필터링 및 스마트 답장)

4. 자율주행 Waymo (실시간 인식 및 판단)

5. Gemini (생성형 AI 모델 학습)에 활용하고 있으며

​

앞으로 TPU(구글)와 GPU(엔비디아) 경쟁이 어떤 모습으로 진행될지

귀추가 주목됩니다.