AI 가속기

글로벌 인공지능(AI) 열풍으로 인공지능 데이터센터(AIDC) 구축 경쟁이 가열되면서 핵심 부품인 AI 가속기 수요가 급증하고 국내 반도체 기업들이 호황을 맞고 있다.

AI 가속기는 AI 연산을 담당하는 그래픽처리장치(GPU)·신경망처리장치(NPU)와 연산에 필요한 데이터를 공급하는 고대역폭 메모리(HBM) 등이 결합한 반도체 패키지다.

AI 가속기를 수천 개씩 집약하는 AIDC가 늘면서 가속기를 구성하는 HBM 수요도 함께 급증하고 있다. 엔비디아를 비롯해 마이크로소프트, 구글, 아마존, 메타 등 글로벌 빅테크의 AIDC 투자가 HBM을 만드는 SK하이닉스와 삼성전자의 실적 개선으로 이어지는 이유다.

AIDC는 기존 데이터센터보다 AI 가속기를 고밀도로 집약해 대규모 연산을 동시에 처리한다는 점에서 차이가 있다.

특히 생성형 AI 서비스 확산과 AI 모델의 대형화로 처리해야 할 데이터와 연산량이 급격히 늘면서 고성능 AI 가속기의 필요성도 커지고 있다. 기존 데이터센터가 중앙처리장치(CPU) 중심으로 데이터를 처리했다면, AIDC는 엔비디아의 GPU나 국산 NPU 등을 활용해 대규모 연산을 동시에 처리한다. 이에 연산 칩에 데이터를 얼마나 빠르게 공급하느냐가 가속기 성능을 좌우하는 핵심 요소로 떠올랐다.

HBM은 여러 개의 D램을 수직으로 쌓아 데이터 전송 속도와 대역폭을 높인 메모리다. 연산 칩 가까이에서 대규모 데이터를 빠르게 공급해 AI 가속기의 성능을 뒷받침한다. SK하이닉스와 삼성전자는 HBM 기술력과 생산능력을 앞세워 엔비디아 등 글로벌 AI 반도체 시장을 공략하고 있다.

다만, AI 가속기를 대량으로 탑재한 AIDC는 막대한 전력 소비와 발열이라는 구조적 한계를 안고 있다. 이에 업계는 전력 효율을 높인 저전력 반도체와 차세대 냉각 기술 개발에 나선 상황이다. 또한 HBM의 용량과 대역폭을 높이고 생산능력을 확대하는 데도 속도를 내고 있다.