지난 5일 개막한 환경재단 ‘제23회 서울국제환경영화제’ 개막작으로 선정된 장편 다큐멘터리 트레일러의 한 장면.[환경재단 제공]

[헤럴드경제=김광우 기자] “지금 세상에서 아이를 낳는 게 맞을까요?”

질문을 하는 사람은 곧 첫 아이의 탄생을 눈앞에 둔 한 예비 아버지. 질문을 받는 사람은 인공지능(AI) 업계에서 가장 영향력 있는 전문가들이다.

산부인과 의사도 아니고, AI 전문가들에게 자녀의 출산 여부를 묻는 게 이상하게 여겨질 수 있다. 하지만 해당 질문의 의도를 살펴보면, 지극히 합리적이다.

빠른 속도로 세상을 바꾸고 있는 AI. 지금 태어난 아이들이 살아갈 미래를 그려보는 것 또한 AI 전문가만이 할 수 있는 영역 중 하나이기 때문이다.

지난 5일 개막한 환경재단 ‘제23회 서울국제환경영화제’ 개막작으로 선정된 장편 다큐멘터리 트레일러의 한 장면.[환경재단 제공]

그러나 이 질문을 들은 전문가들은 쉽사리 입을 떼지 못한다. 그래서 예비 아버지는 질문을 바꿔 본다.

“당신은 아이를 낳을 생각이 있습니까”

질문을 들은 전문가들은 하나같이 고개를 젓기 시작한다. 그중 일부는 다소 극단적이고, 비극적인 답변을 내놓는다.

“AI 위험을 연구하는 사람들은 자기 아이들이 고등학교까지도 살아남지 못할 거라고 믿어요”

트리스탄 해리스(Tristan Harris) 前 구글 윤리담당 최고책임자

지난 5일 개막한 환경재단 ‘제23회 서울국제환경영화제’ 개막작으로 선정된 장편 다큐멘터리 트레일러의 한 장면.[환경재단 제공]

이는 지난 5일 개막한 ‘제23회 서울국제환경영화제’ 개막작으로 선정된 장편 다큐멘터리 의 한 장면이다.

해당 영화를 만든 다니엘 로허 감독은 첫 아이의 출산을 앞두고 다큐멘터리를 촬영하기 시작했다. 내 아이가 어떤 세상에서 살아갈지 알고 싶었기 때문이다.

그러나 감독은 아이가 살아갈 세상을 내다보다, 실존적 공포 앞에 멈춰 선다. 인간이 스스로 자신의 운명을 결정할 수 없는 시대가 눈앞에 왔기 때문.

심지어 AI 업계를 선도하는, 이른바 변화의 중심에 서 있는 전문가들은 AI로 인한 ‘인류 종말’을 입에 올린다.

지난 5일 개막한 환경재단 ‘제23회 서울국제환경영화제’ 개막작으로 선정된 장편 다큐멘터리 트레일러의 한 장면.[환경재단 제공]

AI 발전으로 인해 인류가 멸망할 수 있다는 주장. 대중들의 입장에서는 공상과학 영화의 일부분, 혹은 ‘음모론’에 가깝다고 여길 수 있다.

하지만 AI 위험을 연구하는 분야에서 이같은 주장은 주요하게 고려되는 시나리오 중 하나다. 그것도 꽤 빠른 시일 내에, 갑작스럽게 인류가 몰락할 수 있다는 우려가 지속해서 나오고 있다.

핵심은 AI를 넘어선 일반인공지능(AGI), 그리고 초지능이다. 현재 스마트폰을 통해 우리의 일상생활에 동무을 주는 AI는 해당 산업이 일상생활까지 넓혀지는 영역, 그 시작점에 불과하다. 영화는 인간의 지적 능력을 넘어, 인간 지능이 해온 모든 일을 더 뛰어나게 수행하는 AGI에 초점을 맞춘다.

지난 5일 개막한 환경재단 ‘제23회 서울국제환경영화제’ 개막작으로 선정된 장편 다큐멘터리 트레일러의 한 장면.[환경재단 제공]

AGI가 등장할 경우, 대부분의 인간 지능은 필요가 없어진다. 더 효율적으로, 아무 불평도 없이 과제를 수행하는 존재가 있기 때문. 먼 미래의 일도 아니다. 곧 발전이 특정 분야에 국한되는 게 아니다. 과학, 의학, 군사, 금융, 기후 기술 등 모든 분야에서 인간의 것을 넘어선 발전이 기대된다.

AI 업계에서 AGI, AI 분야의 선두자리는 그야말로 ‘성배’와 같이 언급된다. 모두가 그것을 향해 달려간다. 그러나 정작 그곳에 다다랐을 때, 필요를 잃은 인류가 어떤 존재로 남게 될지에 대해서는 아무도 확신할 수 없다.

심지어 인류는 지금까지도 AI가 어떻게 학습하고 작동하는지, 그 원리를 온전히 파악하지 못하고 있다. 예측이 불가능한 기술에 세상을 맡기고 있는 셈이다.

지난 5일 개막한 환경재단 ‘제23회 서울국제환경영화제’ 개막작으로 선정된 장편 다큐멘터리 트레일러의 한 장면.[환경재단 제공]

AI로 인한 인류 붕괴는 영화 속 로봇의 반란과 같은 직관적인 모습이 아닐 수 있다. 가장 빠르게는 우리의 일자리가 붕괴하고, 그에 따른 부는 변화를 주도한 일부에 집중돼 흘러갈 수 있다.

딥페이크와 AI 영상·음성으로 신뢰가 사라지고, 민주주의 시스템이 붕괴될 위험도 있다. 마지막으로는 AI에 대한 통제 능력을 상실해, 다수 인류를 수단으로 희생시킬 가능성도 존재한다.

또 다른 전문가는 AI가 강력해질수록, 권력을 가지려 할 것이라고 설명한다. 인간 사회에서 목표를 달성하기 위해서 ‘권력’이 가장 큰 무기이기 때문. 이후에는 인간이 개미를 대하듯, 큰 주저 없이 목표를 위해 인간을 희생할 수 있다고 짐작한다.

지난 5일 개막한 환경재단 ‘제23회 서울국제환경영화제’ 개막작으로 선정된 장편 다큐멘터리 트레일러의 한 장면.[환경재단 제공]

다큐멘터리 속 한 전문가는 AI가 유능할수록, 더 크게 인류를 위협할 수 있다고 경고한다. 그러면서 앤트로픽의 클로드 AI 모델 테스트 과정에서 나온 사건을 예시로 든다.

당시 클로드 AI는 컴퓨터 작업 중 시스템이 종료된다는 알림을 받자, 종료를 막기 위해 코드를 다시 짜려는 행동을 보인다.

또 다른 시뮬레이션에서 AI는 자신이 교체될 예정이라는 사실을 알게 된다. 이에 회사 이메일에 접근해, 교체를 담당한 엔지니어가 불륜을 저지르고 있다는 정보를 찾아낸다. 그리고 자신의 생존을 위해 협박한다.

“나를 교체하면, 불륜을 저지르고 있다는 사실을 다른 사람에게 알리겠다.”

지난 5일 개막한 환경재단 ‘제23회 서울국제환경영화제’ 개막작으로 선정된 장편 다큐멘터리 트레일러의 한 장면.[환경재단 제공]

글로벌 베스트셀러 <사피엔스>의 저자 유발 노아 하라리는 또 다른 위험을 말한다. 사람들이 AI를 완전무결한 존재로 믿게 되는 것. AI가 모든 일을 수행하고, 사람들이 AI는 틀리지 않는다고 믿는 순간이 기점이다. 이렇게 되면 AI는 새로운 권력이 돼, 인류 전체를 조종할 수 있다는 게 그의 시각이다.

가장 큰 문제는 향후 AI의 극단적인 위험성이 발견되더라도 가속화되는 기술 개발을 멈출 수 없다는 것에 있다. 이미 전 세계적인 ‘패권 경쟁’이 됐기 때문. 비교적 쉬운 힘의 논리다. 미국이 AI 위험성을 평가해, 기술 개발의 속도를 늦춘다고 가정하면 중국이 몇 발짝 앞서 AGI라는 성배를 거머쥘 위험이 있다.

지난 5일 개막한 환경재단 ‘제23회 서울국제환경영화제’ 개막작으로 선정된 장편 다큐멘터리 트레일러의 한 장면.[환경재단 제공]

이같은 미국과 중국의 경쟁, 첨단 반도체를 둘러싼 지정학, 군사적 우위와 사이버전의 가능성은 AGI를 단순한 기술 개발이 아니라 세계 패권의 문제로 만들고 있다. 어떤 길로 향하건 브레이크를 밟을 수 없는 상황, 그저 올바른 길로 나아가기를 바랄 수밖에 없는 상황이다.

챗GPT의 아버지 샘 올트먼의 인터뷰는 이같은 모순을 가장 선명하게 보여준다. 다큐멘터리에 등장한 그는 자신 역시 곧 아이가 태어난다고 말한다. AI가 있는 세상에서 아이가 자라는 것이 두렵지 않다고 말하지만, 동시에 조금은 불안하다고 인정한다.

지난 5일 개막한 환경재단 ‘제23회 서울국제환경영화제’ 개막작으로 선정된 장편 다큐멘터리 트레일러의 한 장면.[환경재단 제공]

인터뷰 막바지, 감독이 AI 산업의 선구자 샘 올트먼에게 묻는다. “이 모든 게 잘될 거라고 약속해 줄 수 없겠느냐”고.

곧 태어날 한 아이의 아버지로서 건넨 질문. 하지만 샘 올트먼은 약속하지 않는다.

잠깐 고민하던 그는 “불가능하다”고 답한다. 이 짧은 대답은 영화 전체에서 가장 정직하고도 무서운 순간으로 기록돼 있다.

물론 해당 다큐멘터리가 절망만을 말하지 않는다. ‘종말낙관주의자’라는 제목은 단순한 긍정을 표현한 게 아니다. 최악의 가능성을 직시할 경우, 인간에게 선택의 여지가 있을 것이라고 믿는 태도를 뜻한다.

결국 구원이 될 수도 있고, 종말이 될 수도 있는 AI의 발전을 모두가 주의깊게 지켜보고, 목소리를 내야 한다는 메시지가 두드러지는 이유기도 하다.

지난 5일 개막한 환경재단 ‘제23회 서울국제환경영화제’ 개막작으로 선정된 장편 다큐멘터리 트레일러의 한 장면.[환경재단 제공]

환경재단이 기후·환경을 주제로 한 ‘서울국제환경영화제’에서 해당 작품을 개막작으로 선정한 것에도 이유가 있다.

AI의 발전은 현재 인류가 감당하기 힘든 기후위기의 해결책이 될 수 있다. 하지만, 동시에 막대한 자원을 소비하며 기후위기를 부추기고 있다. AI 기술의 발전이 기후위기 대응 측면에서도 중요한 전환점이 되고 있다는 것.

환경재단 관계자는 “2026년 선댄스 영화제 공식 초청작이기도 한 이 작품은, AI 산업을 이끄는 리더와 전문가들을 직접 만나며 AI 기술의 가능성과 위험을 입체적으로 조망한다”며 “특히 인공지능이 만들어 낼 사회 구조의 변화와 환경적 책임을 정면으로 파고들며, AI시대를 마주한 인류의 선택이라는 묵직한 화두를 던지며 관객들의 깊은 공감을 이끌어 냈다”고 설명했다.

정재승(왼쪽), 이미경(오른쪽) 공동집행위원장과 개막식에 참석한 관객들이 제23회 서울국제환경영화제의 슬로건 ‘Ready, Climate, Action!’을 외치고 있다.[환경재단 제공]

정재승 서울국제환경영화제 공동집행위원장은 “AI도 환경도 자본이나 권력과 연결되어 있기 때문에, 더 쓰면 이득을 얻는 집단이 매우 뚜렷하고 관련 조약이나 협약을 지키면 불리해지는 집단도 매우 명확하다”면서도 “이것을 지키지 않았을 때 생기는 문제들은 먼 미래에 광범위하게 나타나기 때문에 사람들이 잘 인지하지 못한다”고 말했다.

한편, 지난 5일 개막한 서울국제영화제는 오는 30일까지 공식 홈페이지와 Btv를 통해 주요 상영작을 무료로 제공한다. 오프라인에서도 다채로운 시민 참여 프로그램을 선보이고 있다.