“클라우드 AI는 소수 빅테크의 독점 구조이나 온디바이스 AI는 B2C 중심 다품종 시장으로 한국에 유리한 개방된 기회시장이다. NPU, AI SoC 등 온디바이스 AI 칩은 비메모리 시장에서 국내 팹리스가 진입할 수 있는 유일한 유망 영역이다”

이승우 유진투자증권 리서치센터 센터장은 지난 20일 웨스틴 조선 서울에서 개최된 ‘AI 반도체 협업포럼’에서 ‘온디바이스 AI 반도체 산업 동향’에 대해 발표했다.

이승우 센터장은 최근 반도체 업계에서 가장 주목받는 분야 중 하나가 바로 온디바이스 AI라며, 기존 AI 기술이 클라우드 환경에서 주로 실행되었던 것과 달리, 온디바이스 AI는 스마트폰, 자동차, PC 등 다양한 기기에 내장되어 독립적으로 AI 기능을 수행하는 것이 특징이라고 말했다.

또한 반도체 시장의 변화 속도는 매우 빠르며, 이에 따라 주요 기업들의 시장 가치도 급격히 변화하고 있다며 과거 인터넷 시대에는 시스코와 인텔, 마이크로소프트가 중심이었고, 모바일 시대에는 애플, 퀄컴, 삼성전자가 성장했고, AI 시대로 넘어오면서 NVIDIA, 오픈AI, 인비디아 등의 기업들이 시장을 선도하고 있다고 전했다.

특히 온디바이스 AI 시장에서는 저전력 MPU, DSP, SOC 기반의 경량 AI 모델이 주목받고 있다고 밝혔다.

이승우 센터장은 최근 조사 결과를 예로 들며 AI 반도체 시장은 2024년 800억달러 규모에서 2030년 2,000억 달러 이상으로 성장할 것으로 전망되고, 연평균 성장률(CAGR)이 19%에 달할 것으로 보이며, 이는 기존 반도체 시장 성장률의 두 배 이상이라고 밝혔다.

특히 AI 스마트폰과 AI PC의 침투율도 빠르게 증가하고 있으며, 각각 2027년에는 39%와 53%에 이를 것으로 예상했다.

이어 온디바이스 AI 반도체의 핵심은 모델 경량화라며, 기존 대형 AI 모델이 높은 연산 능력을 요구하며 클라우드 환경에서 작동했다면, 온디바이스 AI는 소형 기기에서도 효율적으로 작동할 수 있도록 최적화돼야 한다고 언급했다.

이를 위해 프루닝(Pruning), 양자화(Quantization), 지식 증류(Knowledge Distillation) 등의 기술이 개발되고 있다고 전했다.

또한 반도체 제조 방식도 변화하고 있다며 기존 반도체 산업에서는 같은 용량을 더 저렴하게 제작하는 것이 핵심이었으나, 앞으로는 고성능 반도체의 개발이 더욱 중요해질 전망이라고 언급했다.

특히 HBM(High Bandwidth Memory)과 같은 고속 메모리 기술의 발전이 AI 반도체 성능 향상에 결정적인 역할을 할 것으로 전망했다.

중국 AI 반도체 기업들의 성장도 주목할 만하다며 화웨이, 캠브리콘 등 중국 기업들은 이미 글로벌 시장에서 강력한 입지를 구축하고 있으며, 시가총액도 급격히 증가했다고 전했다.

글로벌 주요 스타트업들도 폭발적인 성장을 보이고 있다. 세레브라스는 총 투자 유치 규모가 11억4,000만달러에 달하고, 2025년 IPO를 추진중이고, 기업가치가 70억달러로 평가되고 있다. 텐스토렌트도 2024년 시리즈 D에서 6억9,300만달러 등 총 10억 달러를 투자 유치했고, 기업가치가 26억달러 이상 평가되고 있다.

이승우 센터장은 글로벌 경쟁 속 한국의 기회는 온디바이스 AI에서 찾아야 한다고 밝혔다.

2024년 기준으로 전 세계 스마트폰, 노트북, 웨어러블 등에 탑재되는 온디바이스 AI 칩 수요는 연평균 30% 이상 성장 중이며, 클라우드 AI에서 엣지 온디바이스 중심으로 무게 중심이 이동 중이다. AI PC, AI 스마트폰 시장이 2026년까지 5억대 이상 성장이 추산된다.

또한 한국은 메모리 반도체 및 모바일 생태계 강국이라는 강점을 가지고 있다.

이승우 센터장은 “클라우드 AI는 소수 빅테크의 독점 구조이나 온디바이스 AI는 B2C 중심의 다품종 시장으로 한국에 유리한 개방된 기회시장이고, NPU, AI SOC 등 온디바이스 AI 칩은 비메모리 시장에서 국내 팹리스가 진입할 수 있는 유일한 유망 영역”이라며 “딥엑스, 퓨리오사, 리벨리온 등 초기 성장 기업들이 이 시장을 기반으로 칩, 기기, 플랫폼에 이르는 시스템 반도체 내재화의 기회가 있다”고 밝혔다.

이어 “앞으로 온디바이스 AI 반도체 시장에서 경쟁력을 갖추기 위해서는 기술 혁신뿐만 아니라 산업 생태계 조성도 중요하다”며 “AI 반도체 기술이 발전함에 따라 전기처럼 보편화될 가능성이 높으며, 이는 산업 전반에 걸쳐 새로운 기회를 창출할 것”이라고 언급했다.

또한 “한국은 기존의 모바일 및 메모리 반도체 강점을 살려 온디바이스 AI 시장에서 중요한 역할을 할 수 있다”며 “이를 위해 정부와 기업들은 협력하여 인공지능 반도체 개발을 적극적으로 지원하고, 글로벌 시장 경쟁력 확보에 나서야 할 것”이라고 주장했다.