“AI의 자율 판단과 별도로 검증된 안전 시스템이 최종 의사결정을 담당하는 하이브리드 구조를 통해 자율화가 진행될수록 증가하는 불확실성을 통제할 수 있다”

지난 5월21일 세이프틱스(Safetics)가 개최한 ‘Physical AI Frontier’ 행사에서 김휘연 CSO는 “자율 제조 시대의 본질은 기술이 아니라 안전 관리 방식의 전환”이라고 강조했다.

김휘연 CSO는 먼저 제조업 패러다임의 변화를 짚었다.

기존 자동화는 ‘무인화’에 초점이 맞춰졌지만, 최근에는 사람과 로봇이 같은 공간에서 협업하는 형태가 빠르게 확산되고 있다.

협동로봇, 자율이동로봇(AMR), 모바일 매니퓰레이터, 나아가 휴머노이드까지 등장하면서 ‘피지컬 AI’가 산업 현장에 본격 침투하고 있다는 것이다.

반면에 이러한 진화에도 불구하고 제조 현장에서 ‘사람의 완전한 배제’는 현실적으로 불가능하다고 그는 지적했다.

점검·유지보수·문제 해결 등 인간의 개입은 필수적이며, 이는 기존 자동화 구조에서도 반복적으로 확인된 사실이다.

실제 산업재해 사례 역시 대부분 생산 과정이 아닌 비정상 상황에서 발생하는 경우가 많다는 설명이다.

문제는 기술 발전 속도를 안전 체계가 따라가지 못하고 있다는 점이다.

현재 산업 현장의 기본 안전 방식은 ‘사람이 접근하면 정지하는 구조’에 머물러 있다.

반면에 이동성과 판단능력을 갖춘 피지컬 AI 시대에서는 이러한 정적 안전 모델이 더 이상 유효하지 않다.

이에 따라 김 CSO는 ‘런타임 기반 안전 관리’의 필요성을 제시했다.

과거에는 설비 설치 단계에서 위험을 예측하고 안전을 완결하는 방식이었지만, 앞으로는 운영 과정에서 지속적으로 위험을 관리해야 한다는 것이다.

실제로 정부 규제 역시 문서 중심에서 운영 중심으로 변화하는 흐름을 보이고 있다.

김휘연 CSO는 이를 구현하기 위한 방법으로 ‘디지털-세이프티 프레임워크’를 제안했다.

핵심은 AI의 자율 판단과 별도로 검증된 안전 시스템이 최종 의사결정을 담당하는 하이브리드 구조다.

즉, AI가 작업을 수행하되 안전과 관련된 최종 판단은 별도의 보호 체계가 담당하는 방식이다.

또한 설계 단계와 운영 단계를 구분한 통합 관리 전략도 강조됐다.

설계 단계에서는 시뮬레이션 기반 위험성 평가를 수행하고, 운영 단계에서는 실시간으로 안전을 분석·제어하는 시스템이 필요하다는 설명이다.

이를 통해 자율화가 진행될수록 증가하는 불확실성을 통제할 수 있다는 것이다.

특히 피지컬 AI 확산과 함께 새롭게 등장하는 위험 요인으로는 △로봇의 물리적 안정성 △AI 학습이 야기하는 예측 불가능성 △무선 연결 증가에 따른 사이버 보안 문제가 꼽혔다. 이처럼 위험이 복합적으로 결합되면서 안전 관리의 난도가 크게 높아지고 있다는 진단이다.

그럼에도 김 CSO는 “안전은 비용이 아닌 생산성 요소”라고 강조했다.

실시간 안전 관리가 이루어질 경우 설비 정지 횟수 감소, 작업 전환 시간 단축, 공간 효율 개선 등이 가능해지며, 이는 곧 공장 가동률 증가로 이어진다는 것이다.

마지막으로 그는 기업들이 지금 당장 시작해야 할 행동으로 ‘소규모 PoC(개념검증) 단위의 적용’을 제시했다.

협동로봇이나 공유 작업 공간 등 비교적 적용이 쉬운 영역부터 안전 체계를 구축하고 이를 점진적으로 확장해야 한다는 전략이다.

김휘연 CSO는 “앞으로의 경쟁력은 사람이 있느냐 없느냐가 아니라, AI 환경에서 발생하는 불확실성을 얼마나 잘 관리하느냐에 달려 있다”며 발표를 마무리했다.