네이버, 인텔과 협력해 엔비디아 GPU 대체한 AI 서비스의 첫 사례
네이버와 인텔, 엔비디아 GPU 대체 성공…AI 서비스에 CPU 도입
네이버와 인텔이 인공지능(AI) 서비스에 활용되는 엔비디아의 그래픽 처리 장치(GPU)를 중앙처리장치(CPU)로 대체하는 데 성공했다. 이는 국내에서 처음으로 AI 서비스에서 필수 재료인 GPU를 대체한 사례로, 엔비디아 GPU 대안에 대한 움직임이 가속화될 것으로 전망된다.
반도체 업계에 따르면 최근 네이버는 네이버 플레이스 서비스의 AI 추론용 서버를 엔비디아 GPU에서 인텔 CPU로 전환했다. 네이버 플레이스는 사용자에게 네이버 지도를 기반으로 지역 상점에 대한 정보를 제공하는 서비스로, AI 모델을 활용해 상점 이용자들이 입력한 정보를 실시간으로 수집하고, 허위 정보와 유용한 정보를 판별하여 노출하는 데 사용된다.
이전까지 GPU 서버는 CPU 서버에 비해 AI 추론 처리 능력이 약 10배 우수하다고 알려져 왔다. 네이버와 인텔은 GPU를 CPU로 안정적으로 대체하기 위해 기술 노하우를 활용했다. 인텔은 추론에 최적화된 소프트웨어 솔루션을 도입하여 CPU의 성능을 향상시켰으며, 이를 통해 CPU의 초당 처리 능력(RPS)을 4~7배 개선했다. 네이버는 플레이스 서비스의 위치 정확도를 유지하면서 AI 모델을 경량화하여 CPU에 대한 부담을 최소화했다. 이들 회사는 CPU 서버를 한 달간 사전 테스트한 뒤 최근에 실제 서비스에 적용하기 시작했다.
네이버가 GPU 대체에 나선 이유는 최근 엔비디아 GPU 기반 서버 비용이 크게 증가하고 GPU를 공급받는 게 어려워졌기 때문이다. 이러한 이유로 AI 기업들이 서비스 업그레이드에 어려움을 겪을 우려도 나타나고 있다.
최근에는 H100이라는 중요한 반도체 소재에 대한 국산화 추진이 이어지고 있어 국내에서도 엔비디아 GPU 대체에 대한 관심과 연구가 활발히 이루어질 것으로 예상된다. AI 기업들이 GPU 대안을 찾는 노력이 가속화될 것으로 보여, 국내 반도체 업계에서도 이에 대한 적극적인 대응이 이뤄지기를 기대한다.
네이버와 인텔이 인공지능(AI) 서비스에 활용되는 엔비디아의 그래픽 처리 장치(GPU)를 중앙처리장치(CPU)로 대체하는 데 성공했다. 이는 국내에서 처음으로 AI 서비스에서 필수 재료인 GPU를 대체한 사례로, 엔비디아 GPU 대안에 대한 움직임이 가속화될 것으로 전망된다.
반도체 업계에 따르면 최근 네이버는 네이버 플레이스 서비스의 AI 추론용 서버를 엔비디아 GPU에서 인텔 CPU로 전환했다. 네이버 플레이스는 사용자에게 네이버 지도를 기반으로 지역 상점에 대한 정보를 제공하는 서비스로, AI 모델을 활용해 상점 이용자들이 입력한 정보를 실시간으로 수집하고, 허위 정보와 유용한 정보를 판별하여 노출하는 데 사용된다.
이전까지 GPU 서버는 CPU 서버에 비해 AI 추론 처리 능력이 약 10배 우수하다고 알려져 왔다. 네이버와 인텔은 GPU를 CPU로 안정적으로 대체하기 위해 기술 노하우를 활용했다. 인텔은 추론에 최적화된 소프트웨어 솔루션을 도입하여 CPU의 성능을 향상시켰으며, 이를 통해 CPU의 초당 처리 능력(RPS)을 4~7배 개선했다. 네이버는 플레이스 서비스의 위치 정확도를 유지하면서 AI 모델을 경량화하여 CPU에 대한 부담을 최소화했다. 이들 회사는 CPU 서버를 한 달간 사전 테스트한 뒤 최근에 실제 서비스에 적용하기 시작했다.
네이버가 GPU 대체에 나선 이유는 최근 엔비디아 GPU 기반 서버 비용이 크게 증가하고 GPU를 공급받는 게 어려워졌기 때문이다. 이러한 이유로 AI 기업들이 서비스 업그레이드에 어려움을 겪을 우려도 나타나고 있다.
최근에는 H100이라는 중요한 반도체 소재에 대한 국산화 추진이 이어지고 있어 국내에서도 엔비디아 GPU 대체에 대한 관심과 연구가 활발히 이루어질 것으로 예상된다. AI 기업들이 GPU 대안을 찾는 노력이 가속화될 것으로 보여, 국내 반도체 업계에서도 이에 대한 적극적인 대응이 이뤄지기를 기대한다.
추천
0
비추천0
- 이전글"AI 기술 경쟁에서 엔비디아와 삼성전자의 생존 전략" 23.10.30
- 다음글배달의민족 앱 리뷰 조작업체, 부정행위에 강경 대응 23.10.30
한혜*
정말 미래적인 기술이네요. 어서 빨리 상용화 되었으면 좋겠습니다.
박성*
좋은 정보 담아갑니다.
김한*
창업뉴스라고 왔더니 창업에 관련된게 하나도 없네요.
등록된 댓글이 없습니다.