[정상민의 프롭테크 ‘썰’] AI와 로봇의 시대, 기업 책임은 더 무거워진다

제조업과 물류 현장의 풍경이 빠르게 바뀌고 있다. 과거 사람이 하던 위험한 일을 로봇과 AI가 해낸다. 분명 좋은 일이다. 그런데 새로운 질문이 생긴다.
로봇이 사고를 낸다면 책임은 누구에게 있을까?

대부분은 이렇게 대답할 것 같다. "로봇이 오류를 일으켰으니 만든 회사 책임 아닌가" 맞는 말이다. 제조 과정에서 결함이 있거나 설계에 문제가 있다면 제조사의 책임은 분명히 논의돼야 한다.

하지만 중대재해를 바라보는 관점에서는 더 중요한 질문이 있다. 바로 이것이다.
그 위험을 회사가 미리 생각하고 관리할 시스템을 준비해뒀는가?

물류센터에서 자율주행 로봇이 작업 중인 사람과 부딪혔다고 생각해보자. 로봇의 센서가 제대로 작동하지 않았을 수도 있다. 하지만 그때 우리가 확인해야 할 것들이 많다.

사람과 로봇이 다른 길로 다녀야 하지 않았나. 이런 충돌이 일어날 수 있다는 걸 미리 대비했어야 하지 않았나. 위험할 때 멈추는 장치가 제대로 달려 있었나. 책임자가 로봇이 잘 움직이는지 살펴보고 있었나.

결국 사고는 로봇 하나의 문제가 아니다. 회사 전체가 얼마나 준비됐는지의 문제다.
사람이 실수해도 안전한 구조를 만들어야 한다

직원이 AI 로봇의 설정을 잘못 입력해서 사고가 났다. 우리는 쉽게 말한다. "조작 실수네." 그리고 그것으로 끝낸다.

이것이 안전관리에서 가장 위험한 결론이다.

왜냐하면 사람은 누구나 실수하기 때문이다. 이게 안전의 가장 기본적인 생각이어야 한다.
좋은 안전 시스템은 사람이 실수하지 않는다고 믿고 만들어지지 않는다. 정반대다. 사람은 반드시 실수한다고 가정하고 만든다. 잘못된 입력이 들어오면 즉시 알려주고, 중요한 설정을 바꾸려면 책임자에게 허락을 받게 하고, 위험한 일은 자동으로 멈추게 한다. 이런 구조들이 AI 시대의 진정한 안전 체계다.

예전에는 산업안전을 이렇게 봤다. 근로자가 기계를 조심해서 써야 한다는 것. 하지만 사람과 AI, 로봇이 함께 일하는 지금은 완전히 달라졌다. 개인이 아무리 조심해도 소용없다. 시스템 자체가 안전하게 만들어져야 한다.

기술을 사는 것이 아니라 시스템을 만드는 것이 경쟁력이다

중대재해처벌법 시대에 기업이 할 일은 로봇을 하나 더 사는 게 아니다. 로봇을 들여올 때 새로운 위험이 생긴다는 걸 알아야 한다. 그리고 그 위험을 관리할 체계를 먼저 만들어야 한다.

미래의 안전 경쟁력은 더 좋은 기술을 가진 회사에서 나오지 않는다. 든든한 안전 시스템을 갖춘 회사에서 결정된다. 기술은 매일 발전한다. 하지만 안전의 기본 원칙은 변하지 않는다.

사고가 난 후에 책임자를 찾는 게 아니라, 사고가 나기 전에 위험을 찾아내 없애는 것. 이것이 AI 시대에도 여전히 가장 중요한 안전의 본질이다.