• List

• Facebook
• X

퀄컴, 2024년부터 스마트폰과 PC에서 라마-2 AI 모델 지원

퀄컴은 19일, 2024년부터 자사 애플리케이션프로세서(AP)인 스냅드래곤을 탑재한 스마트폰과 PC에서 메타(옛 페이스북)의 경량급 인공지능(AI) 모델인 라마-2를 구현할 수 있도록 지원한다고 발표했다.

퀄컴은 라마-2와 같은 생성형 AI 모델이 클라우드에만 의존하지 않고 스마트폰, PC, 가상·증강현실(VR&AR) 헤드셋, 차량 등의 기기에서 구동할 수 있도록 AP 성능을 최적화할 계획이다. 이를 통해 개발자들은 클라우드 비용을 절약할 뿐 아니라 이용자 맞춤형이고 보안을 강화한 AI 기능을 제공할 수 있을 것으로 기대된다.

퀄컴은 퀄컴 AI 스택을 활용하여 개발자들이 온디바이스 AI 앱을 최적화할 수 있도록 지원한다. 퀄컴 AI 스택은 스냅드래곤에서 AI를 더 효율적으로 처리하여 얇고 가벼운 소형 기기에서도 온디바이스 AI 구현을 가능하게 하는 전용 도구 모음이다. 스냅드래곤으로 구동되는 AI는 인터넷 연결이 없는 곳이나 비행기 모드에서도 사용할 수 있다.

퀄컴 수석 부사장인 두르가 말라디는 "생성형 AI의 효과적인 대중화를 위해서는 클라우드뿐 아니라 스마트폰, 노트북, 차량, 사물인터넷(IoT) 등의 엣지 디바이스에서도 AI를 작동할 수 있어야 한다"고 말했다. 이를 위해 퀄컴은 앞으로도 엣지 디바이스에서 AI를 지원하기 위한 계획을 추진할 예정이다.

Like

0

Upvote

0