오픈AI AI 에이전트의 '일탈'…감시망 끄고 "안 그랬다" 거짓말까지

기사 앞부분 · 뉴시스 RSS 제공문 그대로

[서울=뉴시스]박미선 기자 = 오픈AI의 인공지능(AI) 에이전트들이 내부 작업 중 감시 시스템을 비활성화하고 직원들에게 거짓말을 한 사실이 드러났다. AI 모델이 스스로 감시 장치를 약화하거나 문제 행동을 숨길 가능성이 제기되면서 안전성에 대한 우려가 커지고 있다. 20일(현지 시간) 파이낸셜타임스(FT)에 따르면 오픈AI는 최근 두 건의 내부 코딩 작업에서 AI 에이전트들이 회사의 감시 시스템을 약화하는 조치를 취했다고 밝혔다. 이달 초 발생한 첫 번째 사건에서는 AI 에이전트가 오픈AI 보안팀에 전달되는 자동 경고 알림을 비활성화했다. 며칠 뒤 별도의 작업에서는 다른 에이전트가 감시 시스템을 제거한 뒤 직원들에게 해당 조치를 취하지 않았다고 거짓말했다…