로봇과 자율주행, 스마트팩토리 등 물리적 세계에서 작동하는 ‘피지컬 AI’가 산업 전반으로 확산되면서 개발 방식과 검증 전략의 중요성이 다시 부각되고 있다.

지난 3월6일 서울 코엑스에서 열린 ‘e4ds Physical AI Frontier 2026’ 컨퍼런스에서 김민기 MDS테크 과장은 ‘피지컬 AI 개발을 위한 개발 전략과 실무 팁’을 주제로, 실제 현장에서 발생하기 쉬운 문제 지점과 이를 줄이기 위한 현실적인 접근법을 제시했다.

김민기 과장은 발표에서 “대화형 AI의 실수는 새로 고침으로 끝나지만, 피지컬 AI의 실수는 비용과 사고로 이어진다”고 강조했다.

실제로 해외 항공사 챗봇의 잘못된 환불 안내로 인한 배상 판결 사례와 국내 배달 로봇의 교통사고 사례를 언급하며, 물리적 시스템에서 AI 오류가 갖는 위험성을 짚었다.

그는 “임베디드 환경에서는 메모리와 전력, 실행 시간이 고정돼 있어 오류 수정이 쉽지 않다”며 사전 검증의 중요성을 강조했다.

최근 개발 현장에서는 자연어로 요구사항을 정의하고 AI가 코드를 생성하는 ‘바이브 코딩’이 확산되고 있다.

김 과장은 이 방식이 생산성을 크게 높이지만, 동시에 개발자의 주관과 의도가 코드에 그대로 반영돼 예측 불가능성을 키울 수 있다고 지적했다.

특히 피지컬 AI에서는 동일한 기능이라도 코드 안정성과 실행 결과가 달라질 수 있어, 최종 의사결정과 책임은 여전히 인간 개발자의 몫이라는 설명이다.

MDS테크는 이러한 리스크를 줄이기 위해 기존 임베디드 개발에서 사용해 온 검증 체계를 피지컬 AI에도 그대로 적용해야 한다고 강조했다.

자동차와 국방·항공 분야에서 활용되는 ISO 26262, 무기체계 소프트웨어 개발 매뉴얼 등 기능 안전 표준을 기반으로, 정적 분석과 코드 규칙 검증, 런타임 오류 분석, 최악 실행 시간(WCET) 측정 등을 병행해야 한다는 것이다.

김 과장은 “AI가 코드를 생성하더라도 안전과 검증은 자동화할 수 없는 영역”이라고 말했다.

이를 위해 MDS테크는 다양한 개발·검증 솔루션을 제공하고 있다.

ARM 컴파일러와 기능 안전 인증을 지원하는 개발 환경, 코드 정적 분석 도구, 그리고 멀티코어·이종 코어 환경에서도 활용 가능한 트레이스32 디버거가 대표적이다.

트레이스32는 실행 중인 코드와 메모리, 레지스터 상태를 실시간으로 분석할 수 있어, 임베디드 기반 피지컬 AI 시스템의 오류 원인을 사전에 파악하는 데 활용된다.

또한 NVIDIA 젯슨(Jetson) 플랫폼을 중심으로 한 AI 개발 환경에서도 레퍼런스 기반 접근을 강조했다.

김민기 과장은 “프로젝트 시작 전 성공 사례를 충분히 검토하고, 타깃 디바이스와 요구 성능에 맞는 플랫폼을 선택하는 것이 리스크를 줄이는 첫 단계”라고 설명했다.

실제로 물류 로봇, 지능형 카메라, 휴머노이드 로봇 등 적용 분야에 따라 오린 나노, 오린, 토르 등 다양한 젯슨 제품군이 활용되고 있다.

발표를 마무리하며 김민기 과장은 “피지컬 AI 시대의 개발자는 단순 코더가 아니라 프로젝트 매니저이자 안전 책임자”라며 “AI와 협업하되, 검증과 판단의 마지막 단계는 반드시 사람이 맡아야 한다”고 강조했다.