• 목록

• 페이스북 공유
• 트위터 공유

주문하더라도 인공지능(AI) 가속기를 받을 수 있는 시기는 현재로서는 1년 뒤라고 한다. 이에 대한 얘기는 미국의 반도체 기업인 엔비디아의 개발 및 판매하는 AI 가속기(H100)에 관한 것이다. AI 가속기는 주로 그래픽 처리장치(GPU)로 알려져 있으며, 대규모 데이터의 학습 및 추론에 특화된 반도체 패키지를 의미한다. GPU와 중앙처리장치(CPU)를 함께 배치하고, 이들 사이에 D램을 수직으로 쌓은 다수의 HBM을 연결하는 2.5D 첨단 패키징 기술을 통해 제작된다. 이러한 기술은 데이터 처리 성능을 극대화하는 특징을 가지고 있다.

AI 서비스의 고도화에 있어서 AI 가속기는 필수적인 요소이다. 최근 챗 GPT와 같은 생성형 AI의 확산으로 수요가 급증하였다. 그러나 개당 5000만원을 넘는 고가 제품이기 때문에 부족한 상태로 판매되지 못하고 있다. 이에 마이크로소프트, 아마존, 메타플랫폼(옛 페이스북)과 같은 글로벌 테크 기업 뿐만 아니라 네이버, 카카오와 같은 한국의 ICT 기업들도 엔비디아의 AI 가속기를 확보하지 못해 난감한 상황에 처해있다. 이에 "가격을 얼마든지 추가하고 어떻게든 확보하고 싶다", "충분한 양을 확보할 수 있다면 어떤 조치라도 취해야 할 상황" 등의 의견이 나오고 있다.

일반적인 기업이라면 수요가 증가하는 고가 제품의 경우 생산량을 늘려 대응하는 것이 일반적이지만, 엔비디아는 AI 가속기의 공급량을 늘리는 데 어려움을 겪고 있다. 이는 품귀 현상이 상당 기간 계속될 수밖에 없다는 얘기이다. 그 이유는 SK하이닉스의 HBM 기술과 TSMC의 2.5D 패키징 기술에서 병목 현상이 발생하고 있기 때문이다. AI 가속기의 핵심 요소인 GPU 칩 설계는 엔비디아가 직접 수행하고, 주문을 받은 후 GPU 칩 생산은 대만의 반도체 수탁 생산 기업인 TSMC가 맡고 있다. 따라서 AI 가속기 제작에 필요한 인터포어(GPU와 HBM을 패키징할 때 필요한 기술)의 공급 구조를 살펴봐야 한다.

하지만 현재로서는 AI 가속기의 공급량이 한정되어 있기 때문에 이러한 어려움은 상당 기간 동안 지속될 것으로 보인다. 이에 글로벌 테크 기업과 한국의 ICT 기업들은 엔비디아의 AI 가속기를 구하기 위해 노력하고 있으며, 문제를 해결하기 위해서는 관련 기술의 생산 공급 구조를 개선할 필요가 있다고 전해진다.

(제한 : 1500자)

추천

0

비추천

0