앤트로픽 로고. [로이터]

[헤럴드경제=정목희 기자] 인공지능(AI) 모델 ‘클로드(Claude)’ 개발사 앤트로픽이 세계적으로 AI 개발 속도를 늦추는 방안을 검토해야 한다고 촉구했다.

AI 시스템이 예상보다 빠르게 발전하면서 머지않아 인간의 개입 없이 스스로 성능을 개선하는 단계에 도달할 수 있다는 우려에서다.

앤트로픽은 4일(현지시간) 자사 블로그를 통해 가장 진보된 AI 모델들의 발전 속도를 보여주는 내부 데이터를 공개하며, 전 세계가 AI 개발 속도를 조절할 수 있는 역량을 갖추는 것은 “매우 바람직한 일”이라고 밝혔다.

이번 글은 앤트로픽의 연구 책임자 마리나 파바로와 공동창업자 잭 클라크가 공동 작성했다.

이들은 최근 AI 모델의 발전 양상이 ‘재귀적 자기개선(recursive self-improvement)’ 단계로 향하고 있는 것으로 보인다고 진단했다.

재귀적 자기개선은 AI가 인간의 개입 없이 스스로를 개선하고, 이를 통해 더욱 뛰어난 AI를 만들어내는 과정을 의미한다.

일부 전문가들은 이 단계가 현실화될 경우 예상하기 어려운 위험과 사회적 혼란을 초래할 수 있다고 우려한다.

마리나 파바로와 잭 클라크가 작성한 게시글은 “사회 제도와 AI 정렬 연구가 기술 발전 속도에 발맞춰 나갈 수 있도록 최첨단 AI 개발 속도를 늦추거나 일시적으로 중단할 수 있는 선택권을 세계가 갖는 것이 바람직하다고 믿는다”고 밝혔다.

파바로와 클라크는 AI 모델 개발 속도를 늦추는 방법에 대한 국제적 합의와 경쟁사들이 이를 준수하는지 확인할 수 있는 메커니즘을 제안했다.

이들은 아직은 재귀적 자기 개선이 일어나지 않았고 이것이 필연적인 것도 아니지만 “대부분 기관이 대비하는 것보다 더 빨리 도래할 수 있다”고 경고했다.

클라크는 이전에도 AI의 잠재적 위험과 AI 모델이 ‘재귀적 자기 개선’ 단계에 도달할 경우 발생할 수 있는 잠재적 영향에 대해 자주 언급해 왔다.

그는 이러한 현상이 세상을 변화시킬 것이라고 말했다.

클라크는 “그런 종류의 기술은 이전에는 존재한 적이 없지만 나는 이것이 향후 2년 안에, 어쩌면 더 빨리 일어날 수 있다고 믿는다”고 말했다.

앤트로픽은 향후 몇 달 동안 정책 입안자, 연구원 및 관계자들과 재귀적 자기 개선 및 검증 시스템에 대한 대화를 계속할 계획이다.