AI 하드웨어 2025 트렌드

AI 하드웨어 트렌드 ASIC

ASIC 칩 활용해 AI 작업 효율화

- 빅테크 업체들의 NVDIZ 칩에 대한 수요는 2025년에도 강력하게 지속될 전망이지만 방대한 워크로드로 비용 부담이 발생하는 연산에 있어서는 ASIC을 활용해 효율화를 추구해나갈 전망이다.

Apple: 자사의 AI 모델 훈련에 구글의 TPU와 AWS의 Trainium2를 사용하고 있다.

1) 특정 작업에 특화된 설계 가능

2) 범용 GPU 대비 전력 소비와 비용 측면에서 효율적

3) 실시간으로 AI 처리를 필요로 하는 엣지 디바이스에서의 AI 활용에도 필수적

※ 생성형 AI 서비스는 일반 검색 엔진과 비교해 최대 30배 많은 전력을 필요로 해서, 에너지 효율성이 필수 과제로 대두된다.

- 범용성을 목표로 하는 GPU와 달리 추론용 ASIC 칩은 불필요한 회로를 제거하고 추론 작업에서 가장 많이 사용되는 연산 단위만 포함해서 효율성을 극대화했다.

추론 작업은 모델이 이미 학습된 상태에서 고정된 가중치를 사용해서 입력 데이터를 처리하기 때문에 훈련보다 계산 패턴이 일정하다. 훈련 작업처럼 가중치를 반복적으로 업데이트할 필요가 없으므로 ASIC은 메모리와 연산 구조를 간소화해서 설계가 가능하다.

- 소프트웨어와 하드웨어 간의 밀접한 통합으로 성능을 극대화할 수 있다.

예로,

구글의 TPU는 TensorFlow 환경에 최적화되어 설계가 되었고, AWS의 Trainium은 엔트로픽의 Claude 언어모델 훈련에 맞춰서 설계 되었다.