생성형 AI를 지나 ‘에이전트 AI’가 확산하면서 대규모 학습보다 학습된 모델을 서비스에 적용하는 ‘추론(inference)’ 수요가 시장의 중심으로 옮겨가고 있다.

신동주 모빌린트 대표는 24일 FKI타워 컨퍼런스센터에서 열린 ‘고기능성 반도체 소재 기술세미나’에서 “추론 시장이 빠르게 커지고 있다”고 말했다.

화학경제연구원 주최로 열린 이날 세미나에서 신동주 대표는 ‘AI 반도체 기술과 시장 동향’을 주제로 AI 모델 변화와 NPU(신경망처리장치) 설계의 쟁점, 국내 생태계의 과제를 설명했다.

신동주 대표는 지난해 기준 학습과 추론 시장 규모가 비슷해졌다고 언급하며, AI 활용이 실제 현장으로 내려오면서 반도체 수요가 달라지고 있다고 밝혔다.

신동주 대표는 딥러닝 확산 이후 생성형 AI를 거쳐 최근 에이전트 AI가 빠르게 자리 잡는 흐름이라고 설명했다.

그는 지난 10년간 AI 반도체 경쟁이 데이터센터 학습을 중심으로 전개됐지만, 이제는 산업 현장에서 추론을 통해 가치를 만드는 단계로 넘어가며 수요가 달라지고 있다고 말했다.

모빌린트는 온디바이스부터 엣지 서버까지를 핵심 시장으로 삼고 있다.

신동주 대표는 회사가 2019년 설립돼 AI 반도체에 집중해 왔고, 민간투자 약 1,000억원을 유치해 두 종류의 칩을 개발했다고 소개했다.

그는 AI 반도체를 △호스트 CPU에 붙는 ‘가속기(컴패니언 엑셀러레이터)’ △단일 칩으로 시스템을 구성하는 ‘스탠드얼론 AI SoC’로 나눴다.

모빌린트는 가속기 ‘에리스’와 SoC ‘레귤러스’를 함께 보유해 적용 범위를 넓혔다고 말했다.

레귤러스는 NPU 외에도 △CPU △이미지처리(ISP) △코덱 △DSP △센서·통신 인터페이스 등을 통합하는 구조라고 설명했다.

그는 엣지 환경에서의 ‘안정성’도 강조했다.

실내·외 악조건에서 동작해야 하는 만큼 90도 수준의 온도 테스트를 통과했고, KC·FCC·CE 등 판매에 필요한 인증을 확보했다고 밝혔다.

운영체제는 윈도우·리눅스, 호스트는 ARM·AMD 계열을 지원해 서버 벤더 생태계와의 호환성을 넓히고 있다고 덧붙였다.

신동주 대표는 NPU의 핵심을 ‘범용성(프로그래머빌리티)과 효율의 동시 달성’으로 규정했다.

딥러닝 특성상 △16·8·4비트 등 저정밀 데이터 타입 활용 △스크래치패드·멀티레벨 메모리로 접근 패턴 최적화가 가능하지만, 범용성·효율·실성능·확장성이 트레이드오프 관계여서 아키텍처·컴파일러·소프트웨어·알고리즘을 결합한 풀스택 최적화가 필요하다고 말했다.

그는 ‘이론 성능(TOPS)’이 같아도 유틸라이제이션에 따라 실제 성능이 크게 달라질 수 있다고 지적했다.

모델을 어떻게 분할해 처리하고 데이터를 언제 내부·외부 메모리에 둘지 최적화하는 과정이 중요하다고 설명했다.

그는 국내 NPU 기업들이 영역별로 제품을 준비 중이며 기술력은 글로벌 상위권이라고 평가했다.

다만 해외 기업과 비교해 자본 투입 규모와 스케일업 속도가 과제로 남아 있다고 했다.

엣지 시장에서도 △LLM △VLM 등 트랜스포머 계열 모델이 중요해지고 로봇·자율주행 등 고성능 수요가 늘며, 가성비·전성비·성능·범용성을 함께 만족해야 한다고 덧붙였다.

모빌린트는 400개 이상 오픈소스 모델을 지원하고, 70여개 기업과 유상 PoC를 진행 중이라고 밝혔다.

모빌린트는 AI 컨택센터에서 음성 인식·생성·합성 워크로드를 GPU 대신 NPU로 처리해 성능을 4∼배 개선했고, 관제센터에서는 CCTV 분석 채널을 늘리는 적용 사례를 소개했다.

△산불 감시 △스마트팩토리 검사 △사족보행 로봇 순찰 △AI 키오스크 △드론·스마트카메라 등으로도 실증·협력을 진행 중이라고 밝혔다.

질의응답에서 소재 수요를 묻는 질문에 신동주 대표는 팹리스로서 소재를 직접 개발하진 않지만 패키징 단계에서 협력이 중요하다고 말했다.

고성능화로 발열과 신호 요구가 커지면서 △패키지 소재 △PCB 설계 △저유전 재료 등에서 협력이 필요하다고 설명했다.