GPU

인프라
1분 읽기

AI 모델 학습과 추론에 사용되는 병렬 연산에 특화된 프로세서입니다.

다른 이름
Graphics Processing Unit그래픽 처리 장치

상세 설명

GPU(Graphics Processing Unit)는 원래 그래픽 처리를 위해 설계되었지만, 대규모 병렬 연산 능력 덕분에 AI/딥러닝의 핵심 하드웨어로 자리잡았습니다. NVIDIA의 A100, H100, H200 등이 AI 학습에 가장 널리 사용되며, CUDA 플랫폼을 통해 프로그래밍됩니다. LLM 학습에는 수천 개의 GPU가 필요하며, GPU 클라우드 서비스(AWS, GCP, Azure)나 전문 제공업체를 통해 접근할 수 있습니다.

관련 용어

TPU클라우드딥러닝