[오늘의 AI] "삼성·구글 비상? 애플이 꿈꾸는 온디바이스 AI시대의 도래(?)

스마트폰 속으로 들어온 거대 AI: 프리즘ML, 아이폰에서 270억 매개변수 모델 구동 성공

 

인프라 경쟁의 패러다임을 바꾸는 온디바이스 AI의 서막

최근 글로벌 인공지능(AI) 시장은 마이크로소프트, 아마존, 메타 등 빅테크 기업들을 중심으로 수천억 달러에 달하는 천문학적인 자금을 데이터센터 구축에 쏟아붓는 거대한 인프라 경쟁을 벌이고 있다. 더 똑똑한 AI를 만들기 위해 모델의 크기를 키우고, 이를 뒷받침할 초고성능 서버를 확보하려는 움직임이다. 하지만 이러한 흐름 속에서 대규모 데이터센터나 클라우드 연결 없이 스마트폰 자체에서 초거대 AI를 실행하려는 '온디바이스 AI(On-Device AI)' 분야에 역사적인 돌파구가 마련되었다.

미국의 AI 스타트업 '프리즘ML(PrismML)'은 알리바바의 오픈소스 대형언어모델(LLM)인 '큐원(Qwen) 3.6' 270억 매개변수(Parameter) 버전을 아이폰 17 프로에서 성공적으로 구동하는 데 성공했다. 이는 지금까지 스마트폰을 비롯한 모바일 기기에서 실행된 AI 모델 중 역대 최대 규모로, 기존의 한계를 뛰어넘은 기술적 쾌거로 평가받고 있다.

 

'성능 저하 없는 경량화'를 이뤄낸 혁신적인 압축 기술

그동안 스마트폰에서 AI를 구동하려는 시도가 없었던 것은 아니다. 하지만 모바일 기기가 가진 하드웨어적 한계, 특히 메모리 용량과 연산 능력의 제약으로 인해 수십억 개 수준의 작은 모델만 구동할 수 있었다. 거대한 AI 모델을 모바일용으로 축소하면 지능과 성능이 심각하게 떨어지는 '경량화의 딜레마'는 업계의 고질적인 난제였다.

프리즘ML은 자체 개발한 독창적인 수학적 압축 기법을 통해 이 문제를 정면으로 돌파했다. 원래 용량이 무려 54기가바이트(GB)에 달해 스마트폰에 넣는 것조차 불가능했던 '큐원 3.6' 모델을 성능 손실을 최소화하면서 4GB 미만으로 압축하는 데 성공한 것이다.

특히 주목할 점은 구동 방식의 차별성이다. 현재 유행하는 대부분의 모바일 AI 모델은 연산 부담을 줄이기 위해 전체 매개변수 중 일부만 선택적으로 활성화하는 '희소 전문가 혼합(Sparse MoE)' 구조를 채택한다. 반면 프리즘ML의 기술은 270억 개의 매개변수를 '동시에, 모두' 활성화하여 구동한다. 이는 스마트폰 환경에서도 대형 데이터센터 기반의 AI와 다름없는 수준 높은 추론과 복잡한 대화, 나아가 개발자를 위한 소프트웨어 코딩 및 완전 자율형 AI 에이전트 기능까지 매끄럽게 처리할 수 있음을 증명한다.

 

애플의 온디바이스 AI 전략과 거대 비즈니스의 결합

이번 성과는 클라우드 의존도를 줄이고 사용자 기기 자체에서 AI를 처리하려는 애플의 온디바이스 AI 로드맵과도 긴밀하게 맞물려 있다. 애플은 개인정보 보호, 강력한 보안, 그리고 막대한 클라우드 서버 운영 비용을 절감하기 위해 온디바이스 AI를 핵심 전략으로 강조해 왔다. 실제로 애플은 세계개발자회의(WWDC)에서 새로운 시리(Siri)를 공개하며 일부 AI 기능의 기기 내 직접 실행을 강조한 바 있다.

그러나 애플이 자체 개발한 온디바이스 AI 모델인 'AFM 3' 등은 200억 매개변수 규모를 표방하면서도, 실제 동시 활성화되는 매개변수는 MoE 구조 특성상 10억~40억 개 수준에 머물러 복잡한 작업을 처리하는 데 한계가 있었다. 모델 경량화 과정에서 성능 저하 문제를 고민하던 애플은 현재 온디바이스 AI 역량을 강화하기 위해 인수합병(M&A) 대상을 물색 중이며, 실제로 프리즘ML과 기술 활용 방안을 긴밀히 논의한 것으로 알려져 업계의 이목이 집중되고 있다.

 

손안의 혁명, AI 산업의 경제성을 뒤흔들 미래

프리즘ML의 최고경영자(CEO) 바박 하시비는 AI의 미래가 데이터센터가 아닌 사용자 손안에 있다고 단언했다. 그는 앞으로 3년 정도가 지나면 인류에게 필요한 AI 기능의 95%는 스마트폰, 노트북, 가전기기 등 로컬 환경에서 처리될 것이며, 아주 극소수의 최첨단 기능만 클라우드를 이용하게 될 것이라고 전망했다. 이는 매번 데이터를 서버로 보내고 받을 필요가 없어 통신 요금이나 지연 시간(Latency) 문제를 해결할 뿐만 아니라, AI 서비스 운영에 들어가는 엄청난 인프라 비용을 획기적으로 줄여 AI 산업의 경제성을 근본적으로 바꿀 변화다.

캘리포니아공과대학교(Caltech) 연구진이 설립한 스핀오프 기업인 프리즘ML은 오픈AI의 초기 투자사로 유명한 코슬라벤처스 등으로부터 1625만 달러(약 240억원) 규모의 시드 투자를 유치하며 시장의 신뢰를 증명했다. 프리즘ML은 이번 주 중으로 아이폰에서 구동한 270억 매개변수 모델을 오픈소스로 완전히 공개할 예정이며, 향후 GPT나 클로드와 같은 초거대 AI 모델까지 스마트폰에서 실행할 수 있도록 압축 기술을 더욱 고도화할 계획이다. 모바일 디바이스가 진정한 고성능 AI의 메인 무대가 되는 날이 머지않았다.