AI 연구 비중 커지자…앤스로픽, 중요 결정에 사람 승인 의무화 검토

미국 인공지능(AI) 기업 앤스로픽이 AI가 사람의 감독 없이 더 똑똑한 AI를 마음대로 만들지 못하도록 막는 방안을 검토하고 있다.

‘AI가 AI를 개발하는 능력’이 빠르게 발전하면서 사람이 이를 통제하지 못할 것이란 우려가 커졌기 때문이다.2일(현지 시간) 로이터통신에 따르면 앤스로픽은 이날 미국 증권거래위원회(SEC)에 이 같은 내용을 담은 수정 상장신고서를 제출했다.

앤스로픽은 지난달 26일 처음 제출한 신고서에서 AI가 더 강력한 AI를 개발할 때 발생할 수 있는 위험을 경고한 데 이어, 이번에는 안전정책 개정을 검토하겠다는 내용을 추가했다.

앤스로픽은 수정 신고서에서 “사람이 제대로 감독하지 못하는 상태에서 AI에 첨단 모델 개발을 전적으로 맡기는 것은 안전하지 않다고 본다”고 밝혔다…