• 목록

• 페이스북 공유
• 트위터 공유

KT클라우드, AI 서비스를 위한 슬라이싱 기술을 적용한 AI SERV 출시

KT클라우드는 16일 슬라이싱 기술을 GPU에 적용한 AI 추론 전용 인프라 서비스 AI SERV를 출시했다고 밝혔다. AI SERV는 AI 개발 및 학습을 마치고 AI 서비스를 제공하는 기업들이 필요한 고성능 GPU 인프라를 필요한 만큼만 분할하여 최적의 양을 사용할 수 있는 특징을 가지고 있다. 이로써 비용 효율성뿐 아니라 성능과 호환성 등 추론 영역에서 중요한 조건을 충족시키며, 추론형 AI 인프라 시장의 혁신을 이끌 것으로 기대된다.

KT클라우드의 AI SERV에서는 슬라이싱 기술이 적용되어 기존에 한 장으로 제공되던 GPU 서비스를 0.2장 단위로 5분할하여 제공한다. 이를 통해 최소 사용 가능한 GPU 단위가 작아져서 필요한 때에 필요한 만큼의 인프라를 사용할 수 있게 되었으며, 이는 가격 부담을 줄여주고 다양한 상황에 맞춰 탄력적이고 가변적인 활용이 가능하게 해준다.

또한, 기존의 슬라이싱 기술은 분할된 단위의 GPU에서 성능 열화가 발생할 수 있는 단점이 있었지만, AI SERV는 슬라이싱 분할에도 성능 열화 없이 인프라를 100% 활용할 수 있는 강점을 가지고 있다.

AI SERV는 다른 유사 서비스와 비교했을 때 성능과 호환성 측면에서도 강점을 보인다. 엔비디아 A100 칩을 활용함으로써 경쟁사의 최신 추론형 인프라 서비스와 비교해도 최소 두 배 빠른 연산 속도를 자랑한다. 또한, 엔비디아 쿠다(CUDA) 아키텍처 기반의 높은 호환성과 확장성 역시 AI SERV의 강점 중 하나이다.

KT클라우드는 향후 AI SERV에 사용자의 손쉬운 인프라 확장을 지원하기 위해 모니터링 및 컨테이너 이미지 클로닝 기능을 추가할 예정이며, 부하 발생 시 자동으로 인프라를 확장시키는 오토 스케일링 기능도 제공할 계획이다. 이를 통해 사용자들은 더욱 편리하게 인프라를 확장하고 활용할 수 있을 것으로 기대된다.

추천

0

비추천

0