엔비디아, 생성형 AI 추론 작업에 특화된 GH200 그레이스 호퍼 AI 가속기 공개
세계적인 반도체 기업 엔비디아가 특화된 AI 가속기를 공개했습니다. 엔비디아는 AMD를 비롯한 여러 기업들을 따돌리며 80% 이상의 점유율을 유지하고자 하는 의지를 보였습니다.
엔비디아 CEO인 젠슨 황은 미국 로스앤젤레스에서 열린 컴퓨터 그래픽스 콘퍼런스 시그래프에서 GH200 그레이스 호퍼라는 차세대 AI 가속기 플랫폼을 선보였습니다. GH200은 엔비디아의 최고급 AI 반도체인 GPU H100에 ARM 기반의 CPU가 탑재된 제품입니다. 특히 HBM 4세대 제품인 HMB3e를 탑재하여 AI 가속기의 처리속도를 높였습니다. 엔비디아에 따르면 GH200은 기존 H100 GPU 대비 1.7배의 능력과 1.5배의 대역폭을 갖고 있다고 합니다. 엔비디아는 GH200을 내년 2분기부터 생산할 계획입니다.
HBM은 여러 개의 D램을 수직으로 연결하여 데이터 처리 속도를 크게 높이는 메모리로 삼성전자, SK하이닉스 등이 생산하고 있습니다.
젠슨 황 엔비디아 CEO는 "이 프로세서는 이전 모델보다 훨씬 더 강력하며, 증가하는 AI 컴퓨팅 파워 수요를 충족시키기 위해 세계 데이터 센터의 규모를 확장하도록 설계되었다"고 설명했습니다.
GH200은 AI 추론 작업에 특화되어 있습니다. 학습 작업은 데이터를 가지고 AI 모델을 만드는 것이고, 추론은 이미 만들어진 모델에 데이터를 입력하여 결과를 얻는 작업입니다. 메모리를 추가하여 추론 작업의 성능을 향상시켰습니다.
엔비디아의 AI 가속기 GH200은 기업의 성공적인 AI 컴퓨팅을 위한 고성능 제품으로 기대됩니다.
엔비디아 CEO인 젠슨 황은 미국 로스앤젤레스에서 열린 컴퓨터 그래픽스 콘퍼런스 시그래프에서 GH200 그레이스 호퍼라는 차세대 AI 가속기 플랫폼을 선보였습니다. GH200은 엔비디아의 최고급 AI 반도체인 GPU H100에 ARM 기반의 CPU가 탑재된 제품입니다. 특히 HBM 4세대 제품인 HMB3e를 탑재하여 AI 가속기의 처리속도를 높였습니다. 엔비디아에 따르면 GH200은 기존 H100 GPU 대비 1.7배의 능력과 1.5배의 대역폭을 갖고 있다고 합니다. 엔비디아는 GH200을 내년 2분기부터 생산할 계획입니다.
HBM은 여러 개의 D램을 수직으로 연결하여 데이터 처리 속도를 크게 높이는 메모리로 삼성전자, SK하이닉스 등이 생산하고 있습니다.
젠슨 황 엔비디아 CEO는 "이 프로세서는 이전 모델보다 훨씬 더 강력하며, 증가하는 AI 컴퓨팅 파워 수요를 충족시키기 위해 세계 데이터 센터의 규모를 확장하도록 설계되었다"고 설명했습니다.
GH200은 AI 추론 작업에 특화되어 있습니다. 학습 작업은 데이터를 가지고 AI 모델을 만드는 것이고, 추론은 이미 만들어진 모델에 데이터를 입력하여 결과를 얻는 작업입니다. 메모리를 추가하여 추론 작업의 성능을 향상시켰습니다.
엔비디아의 AI 가속기 GH200은 기업의 성공적인 AI 컴퓨팅을 위한 고성능 제품으로 기대됩니다.
추천
0
비추천0
- 이전글면세점 테마에 강한 관심…신세계 주가 급등 23.08.10
- 다음글AI 연구에서 정치적 편향이 발견되었으며, 기업의 사회적 책임에 대한 논의 제기 23.08.10
홍한*
이런 소식 정말 좋아요.
김한*
창업뉴스라고 왔더니 창업에 관련된게 하나도 없네요.
이동*
정말 최고예요!
등록된 댓글이 없습니다.
