• 목록

• 페이스북 공유
• 트위터 공유

엔비디아, 놀라운 AI 칩 H200 GPU 발표!

엔비디아는 13일(현지시간) 새로운 AI(인공지능) 칩인 H200 GPU를 선보였다고 밝혔다. 이에 따르면 H200 텐서코어 칩은 141GB의 차세대 HBM3 메모리를 탑재하여, 추론 작업이나 AI 모델의 답변 생성 시 기존 H100 모델보다 최대 60%~90%의 향상된 성능을 제공한다.

엔비디아는 메타(META)의 라마2 LLM(대용량 언어 모델)을 기반으로 한 테스트에서 H200이 H100보다 거의 두 배 빠른 출력을 생성하는 것으로 확인되었다고 전했다. 또한 H100과 호환 가능하여 이미 이전 모델로 훈련한 AI 기업들이 새로운 버전을 사용하기 위해 서버 시스템이나 소프트웨어를 변경할 필요가 없다는 장점을 갖고 있다.

엔비디아는 H200 칩으로 동작하는 시스템이 아마존, 구글, 마이크로소프트 등 주요 클라우드 서비스 제공 업체와 엔비디아의 하드웨어 파트너에게 2024년 2분기부터 이용 가능하게 될 것이라고 밝혔다. 엔비디아의 하이퍼스케일 및 고성능 컴퓨팅 담당 부사장인 이언 버크는 "H200을 통해 업계 최고의 엔드투엔드 AI 슈퍼컴퓨팅 플랫폼이 중요한 기술 과제들을 더 빠른 속도로 해결할 수 있다"고 말했다.

엔비디아의 GPU는 AI 모델 훈련과 고객 서비스 제공에 필요한 병렬 계산용으로 판매되고 있다. 올해 초부터 대량 공급된 하이엔드 칩인 H100은 GPU당 약 25,000달러~40,000달러 사이의 가격대를 형성하고 있다. 최근 인공지능에 대한 관심이 높아지면서 제품 부족 현상이 발생하고 있어 기업들과 정부 기관들이 확보 경쟁을 벌이고 있다.

한편 AMD(AMD) 역시 곧 출시될 MI300X GPU 칩을 통해 기존 AI칩보다 업그레이드된 성능을 제공하며, 추론 애플리케이션 시장을 겨냥하고 있다. 엔비디아와 AMD의 경쟁은 AI 분야에서 더욱 치열해질 전망이다.

추천

0

비추천

0