한국 IT 기업, 구글과 MS의 초거대 AI 언어모델(LLM) 문제 해결을 위해 온프레미스 서비스 개발
구글과 마이크로소프트는 LLM을 클라우드 서비스로 제공하고 있다. 이를 통해 고가의 인프라를 구축하지 않아도 빅테크의 LLM과 컴퓨팅 파워를 비용 대비 합리적으로 사용할 수 있다. 그러나 클라우드로 제공되는 LLM은 기업별 파인튜닝이 어렵고 데이터가 국외로 반출되는 단점이 있다. 이에 LLM을 온프레미스로 설치하는 사례도 있지만, 인프라 문제로 크기가 작은 sLLM에 그친다. 따라서 챗GPT와 같은 폭발적인 성능은 체험하기 어렵다. 구글과 마이크로소프트가 LLM 수정을 막아놓아 국내 기업들은 온프레미스를 요구하고 있으며, 향후 큰 모델을 온프레미스로 제공할 수 있는지는 미지수이다. 현재로서는 온프레미스 제공의 단점이 장점보다 큰 상황이다.
추천
0
비추천0
- 이전글중기부, 친환경·에너지 분야 초격차 스타트업과 간담회 개최 23.07.20
- 다음글"스몰캡 연구의 매력은 알려지지 않은, 잠재력 있는 종목을 발굴하는 것입니다" 23.07.20
김한*
좋은 뉴스 담아갑니다.
한혜*
정말 미래적인 기술이네요. 어서 빨리 상용화 되었으면 좋겠습니다.
김샛*
정말이지 이런뉴스는 올리지 말아주세요.
등록된 댓글이 없습니다.
