네이버, 인텔과 손잡고 가속기 대체에 성공...AI 서비스 개선!
네이버, 엔비디아 GPU 대체한 인텔 CPU 서버로 AI 서비스 업그레이드 완료
미국 엔비디아의 그래픽 처리장치(GPU) 기반 인공지능(AI) 가속기 시장 상황을 보면, 가속기가 AI 서비스 고도화를 위한 필수 재료로 꼽히면서 돈 주고도 못 사는 상황이 벌어지고 있다. 이에 따라 마이크로소프트 등 AI 개발사들의 불안감도 커지고 있는데, 국내 기업 상황도 비슷하다.
특히 가속기의 부족으로 업그레이드가 어려워지고 있다는 원성이 쏟아져 있는 가운데, 국내 AI 기업 네이버가 최근 인텔과 손잡고 엔비디아의 가속기를 대체할 수 있는 제품 확보에 성공했다고 전해졌다. 이번 확보에 의해 네이버는 자사의 플레이스 AI 서비스에 인텔 CPU 서버를 도입하였으며, 이 서버는 엔비디아 GPU 대신 사용되어지게 되었다.
네이버의 플레이스 서비스는 사용자에게 네이버 지도를 기반으로 지역 상점에 대한 정보를 제공하는 서비스로, 상점 이용자들이 입력한 정보를 실시간으로 수집하고, 허위 정보와 유용한 정보를 판별하는데 AI 모델을 활용하고 있다.
일반적으로 GPU 서버는 CPU 서버 대비 AI 추론 처리 능력이 약 10배 뛰어나다고 알려져 있다. 이를 위해 네이버와 인텔은 GPU의 CPU 대체를 위해 기술 노하우를 총동원하였다. 인텔은 추론에 최적화된 소프트웨어 솔루션을 도입하여 CPU의 활용도를 높였으며, 이를 통해 CPU의 초당 처리 능력(RPS)을 4~7배 개선하였다. 또한 네이버는 플레이스 서비스의 위치 정확도를 유지하면서 AI 모델을 경량화하여 CPU에 주는 부담을 최소화했다.
네이버와 인텔은 CPU 서버에 대한 한 달 간의 사전 최종 테스트를 거친 후, 이를 통해 AI 서비스의 업그레이드를 완료하였다. 이로써 네이버는 엔비디아 가속기의 부족으로 인한 업그레이드 어려움을 극복하고, 향후 AI 기술 발전에 더욱 적극적으로 기여할 수 있을 것으로 기대된다.
미국 엔비디아의 그래픽 처리장치(GPU) 기반 인공지능(AI) 가속기 시장 상황을 보면, 가속기가 AI 서비스 고도화를 위한 필수 재료로 꼽히면서 돈 주고도 못 사는 상황이 벌어지고 있다. 이에 따라 마이크로소프트 등 AI 개발사들의 불안감도 커지고 있는데, 국내 기업 상황도 비슷하다.
특히 가속기의 부족으로 업그레이드가 어려워지고 있다는 원성이 쏟아져 있는 가운데, 국내 AI 기업 네이버가 최근 인텔과 손잡고 엔비디아의 가속기를 대체할 수 있는 제품 확보에 성공했다고 전해졌다. 이번 확보에 의해 네이버는 자사의 플레이스 AI 서비스에 인텔 CPU 서버를 도입하였으며, 이 서버는 엔비디아 GPU 대신 사용되어지게 되었다.
네이버의 플레이스 서비스는 사용자에게 네이버 지도를 기반으로 지역 상점에 대한 정보를 제공하는 서비스로, 상점 이용자들이 입력한 정보를 실시간으로 수집하고, 허위 정보와 유용한 정보를 판별하는데 AI 모델을 활용하고 있다.
일반적으로 GPU 서버는 CPU 서버 대비 AI 추론 처리 능력이 약 10배 뛰어나다고 알려져 있다. 이를 위해 네이버와 인텔은 GPU의 CPU 대체를 위해 기술 노하우를 총동원하였다. 인텔은 추론에 최적화된 소프트웨어 솔루션을 도입하여 CPU의 활용도를 높였으며, 이를 통해 CPU의 초당 처리 능력(RPS)을 4~7배 개선하였다. 또한 네이버는 플레이스 서비스의 위치 정확도를 유지하면서 AI 모델을 경량화하여 CPU에 주는 부담을 최소화했다.
네이버와 인텔은 CPU 서버에 대한 한 달 간의 사전 최종 테스트를 거친 후, 이를 통해 AI 서비스의 업그레이드를 완료하였다. 이로써 네이버는 엔비디아 가속기의 부족으로 인한 업그레이드 어려움을 극복하고, 향후 AI 기술 발전에 더욱 적극적으로 기여할 수 있을 것으로 기대된다.
추천
0
비추천0
- 이전글SK하이닉스, 부채비율 11년 만에 최고치 돌파 23.10.30
- 다음글스마트 기기와 인공지능(AI)이 교육 현장을 변화시키다 23.10.30
박성*
좋은 정보 담아갑니다.
신영*
코리아 핀테크 위크 2023 멋지네요
김한*
정말 대책없네요.
등록된 댓글이 없습니다.