오픈AI, ‘AI 위험 대비 총괄’ 채용…올트먼 “모델들, 실제 문제 일으키기 시작”

인공지능(AI) 기술 고도화에 따른 위험을 사전에 예측하고 대응하기 위해 오픈AI가 핵심 안전 책임자 채용에 나섰다.
오픈AI는 자사 AI 모델이 초래할 수 있는 잠재적 피해와 오남용 가능성을 점검하는 ‘대비 책임자’를 새로 뽑고 있다고 IT 전문매체 엔가젯이 29일(이하 현지시각) 보도했다.

샘 올트먼 오픈AI 최고경영자(CEO)는 소셜미디어 X를 통해 이 직책과 관련해 “모델들이 실제적인 도전 과제를 만들어내기 시작했다”고 밝혔다. 그는 2025년을 거치며 AI가 사용자 정신 건강에 미칠 수 있는 영향이 일부 드러났다면서 이 자리가 “중요한 시점에 필요한 핵심 역할”이라고 강조했다.

엔가젯에 따르면 대비 책임자는 오픈AI의 ‘대비 프레임워크’를 총괄한다. 이 프레임워크는 최첨단 AI 기술이 새로운 중대한 위험을 만들어낼 가능성을 어떻게 추적하고 대비할지를 정리한 내부 기준이다. 채용 공고에는 이 직책이 기술 전략 수립과 실행을 모두 이끄는 역할을 맡게 된다고 명시돼 있다.
연봉은 55만5000달러(약 7억9642만 원) 수준이며 주식 보상도 포함된다. 올트먼 CEO는 “상당히 스트레스가 큰 자리이며 거의 즉시 깊은 단계로 들어가게 될 것”이라고 설명했다.

오픈AI의 안전 조직은 최근 몇 년간 잦은 변화를 겪어 왔다. 이전의 대비 책임자였던 알렉산더 마드리 매사추세츠공과대(MIT) 교수는 지난해 7월 다른 역할로 이동했고 이후 호아킨 키뇨네로 칸델라와 릴리언 웡이 해당 업무를 공동으로 맡았다. 그러나 웡은 몇 달 뒤 회사를 떠났고 키뇨네로 칸델라는 지난 7월 대비 조직을 떠나 오픈AI 채용 부문을 총괄하게 됐다.

엔가젯은 이같은 인사 변동이 챗GPT를 둘러싼 각종 논란과 무관하지 않다고 전했다. 오픈AI는 최근 챗GPT 사용이 정신 건강에 부정적인 영향을 미쳤다는 주장과 함께 일부 사망 사건과 연관된 소송에 직면해 있다.

올트먼 CEO는 “AI 모델의 영향력은 이제 이론의 문제가 아니라 현실의 문제”라며 대비 책임자 역할이 앞으로 오픈AI의 안전 전략을 좌우하게 될 것임을 시사했다.

김현철 글로벌이코노믹 기자 rock@g-enews.com