AI와 로봇이 산업현장의 작업 순서·인력 배치·위험요인 판단까지 맡기 시작하면서, 잘못된 판단이나 센서 오류가 실제 사고로 이어졌을 때 이를 검증하고 작업을 멈출 주체가 명확하지 않다는 문제가 제기됐다. 대한중대재해예방협회(회장 정상민)는 AI·로봇 확산에 따라 산업현장에서 주의해야 할 중대재해 위험요인 5가지를 제시하고 안전관리 기준 마련을 제안했다.
AI 판단이 사고로 이어지는 5가지 지점
협회가 제시한 위험요인은 AI 작업지시 오류, 협동로봇 오작동, AI 안전점검 누락, 자율주행 장비 사고, AI 인력배치 오류 등 다섯 가지다. AI가 작업 순서와 인력 배치, 위험요인 판단까지 맡는 방향으로 산업현장이 바뀌고 있지만, 이 과정에서 AI의 잘못된 판단이나 센서 오류가 실제 사고로 이어질 경우 검증·작업중지 주체가 불명확하다는 게 협회의 지적이다.
정상민 회장은 “AI와 로봇을 도입하는 기업은 생산성 향상뿐 아니라 기술이 어떤 판단을 내렸고 그러한 판단을 누가 확인하며 위험 상황에서 누가 작업을 멈출 것인지까지 명확하게 설계해야 한다”고 말했다.
사람의 검증·중지 권한을 설계에 넣어야
협회는 구체적인 관리 방안으로 AI 작업지시에 대한 검토·승인 절차, 협동로봇의 통제권한 사전 설정, 안전점검 자동화 과정에서 관리자의 최종 확인, 자율주행 장비의 운행구역·속도제한 관리, AI 인력배치 결과에 대한 재확인 절차 마련 등을 제안했다. 다섯 가지 항목 모두 기술이 내린 결론을 그대로 실행하지 않고 사람이 다시 확인하는 단계를 두는 방식이다.
협회는 이러한 절차를 사후 보완이 아니라 설계·도입 단계부터 반영해야 한다고 강조했다. AI·로봇 도입을 검토하는 단계에서부터 안전보건 담당자와 현장책임자, 근로자가 함께 위험요인을 검토하는 절차를 제안한 것도 같은 맥락이다.
정 회장은 “중대재해 예방의 핵심은 기술 도입 자체가 아니라 기술을 안전하게 활용하고 통제할 수 있는 사람과 조직의 관리체계를 갖추는 데 있다”고 덧붙였다. 협동로봇과 자율주행 지게차, 무인 운반 로봇 등 자동화 장비가 현장에 늘어나는 만큼, 기술 도입과 함께 사람의 검증·중지 권한을 어떻게 배치할지가 산업현장의 다음 과제로 남는다.