‘AI 시대, 인간의 길’ 대담

“알고리즘이 권력 행사…기업이 책임져야”

“AI 패권, 미·중 독점하면 안 돼”

유발 하라리 예루살렘히브리대학교 역사학 교수가 20일 연세대학교에서 열린 ‘AI 시대, 인간의 길’ 대담에 참석하고 있다. [김현경 기자]

[헤럴드경제=김현경 기자] “인공지능(AI)은 핵폭탄, 기차 같은 이전 기술과는 엄청난 차이가 있다. 지금까지 기술은 도구였다. 핵폭탄은 스스로 투하를 결정할 수 없지만 AI는 스스로 결정할 수 있다. 우리는 처음으로 우리의 힘을 가져갈 수 있는 것에 직면했다.”

세계적인 석학 유발 하라리 예루살렘히브리대학교 역사학 교수가 AI의 지배력 확대에 대해 우려의 목소리를 냈다. 미국과 중국을 필두로 한 세계 각국과 기업들이 AI 패권 경쟁을 벌이고, AI에 지나치게 많은 권력을 내어 줄 경우 전 인류가 위험해질 수 있다는 경고다.

하라리는 20일 연세대학교에서 ‘AI 시대, 인간의 길’이란 주제로 열린 대담에서 “미국을 비롯해 전 세계적으로 인간의 힘이 AI, 알고리즘으로 옮겨 가고 있다”며 “중대하고 위험한 이행 과정을 겪고 있다”고 진단했다.

그는 소셜미디어(SNS)와 뉴스에서도 사람이 아닌 알고리즘이 편집하는 변화가 일어나고 있다며 대중의 공론이 어떤 방향으로 갈지 결정하는 권력을 알고리즘이 행사하고 있다고 말했다. 민주주의의 기본인 대화를 형성하는 힘을 알고리즘에 줘 버렸다는 것이다.

이어 알고리즘은 지난 몇 년 동안 인간의 대화 능력을 파괴했으며 가짜뉴스와 음모론, 증오를 퍼뜨렸다고 지적했다. 사람들의 참여를 늘리고 돈을 벌기 위해 감정적인 자극을 유도한다는 설명이다.

AI의 영향력은 금융 부문에도 나타난다. 가상화폐는 인간의 제도권에서 탄생한 전통 화폐에 대한 불신에서 탄생했으며 알고리즘으로 힘이 넘어가고 있다.

하라리는 지난해 9월 ‘넥서스’를 출간한 후 여러 나라를 돌아다니며 기업가, 정치가, 개발자 등과 AI 혁명에 대해 얘기를 나눴다. 그들에게 AI가 왜 이렇게 빨리 가고 있는지 물었더니 ‘우리도 위험이 있다는 걸 알고 있다. 초지능 AI를 개발하면 우리가 제어하지 못하고 인류가 파멸할 수 있다는 것도 안다. 그런데 다른 인간을 믿지 못하기 떄문에 우리가 움직이는 것이다. 우리만 멈추면 질 것이고 경쟁자가 세계를 지배하게 될 것’이라는 답변이 돌아왔다고 한다.

초지능 AI는 믿을 수 있을까란 질문에 ‘신뢰한다’는 답변에 대해선 “미친 생각”이라고 일갈했다. 인간은 수천 년 동안 다른 인간과 살아 오며 심리를 이해하고 연민과 신뢰를 구축했지만 초지능 AI는 이같은 경험을 해본 적이 없으며 거짓말도 하고 예측할 수 없는 목표를 설정할 수도 있어서다. 그는 “수백만 초지능 AI를 풀어놓는다면 엄청난 도박이 되는 것”이라며 “그 도박은 돈이 아니라 인류의 미래와 지구의 생명을 걸고 하는 것”이라고 우려했다.

하라리는 정보의 홍수와 SNS의 부작용에 대해서도 지적했다. 정보를 더 많이 개발하면 진실을 퍼뜨리고 세계가 더 살기 좋아질 것이란 생각은 큰 착오라는 것이다. 그는 “정보는 진실이 아니다. 전 세계 정보 중 진실은 굉장히 작은 부분을 차지하고, 대부분은 허구나 환상, 거짓”이라며 “진실은 비용이 크지만 허구는 간단하게 지어낸다. 모든 정보를 흐르게 하면 진실이 떠오를 것이라 생각하지만 아니다. 진실은 깊은 바닥으로 가라앉는다”고 말했다.

검열 자체를 찬성하진 않지만 페이스북을 통한 음모론이 불을 붙인 로힝야족 학살 같은 부작용을 막기 위해선 알고리즘을 만든 기업이 책임을 져야 한다고 주장했다.

미국과 중국 중 어느 국가가 AI 주도권을 가져가는 게 더 좋을 것 같냐는 질문에는 “둘 다 안 된다”고 답했다. 그는 “미국은 현재 행정부가 굉장히 위험하다. 트럼프 대통령은 더이상 전 세계의 리더가 되고싶지 않고, 미국만 신경쓰겠다고 했다. 제국주의적 시각을 갖고 있다. 강자가 모든 것 하고 약자는 복종해야 된다는 시각을 가진 국가가 AI 기술을 갖게 된다면 정말 위험하다”고 봤다.

이어 “역사를 보면 여러 국가든 한 국가든 어떤 국가가 엄청난 기술적 장점을 갖게 되면 끝이 좋지 못했다”며 “AI를 가진 나라와 갖지 않은 나라의 간극은 증기기관의 차이보다 더 크다. 인류를 생각할 때 몇 개 국가가 AI를 독점하면 안 된다. 그러기 위해 작은 국가들이 협력해야 한다”고 덧붙였다.

AI 시대를 맞이한 청년 세대에는 앞으로 어떤 세계가 될지 모르기 때문에 계속 공부하고 유연성을 기르라고 조언했다. 또 지적 역량, 감성적 역량, 운동 역량을 두루 키울 것을 권했다.

하라리는 “AI의 문제는 너무 빨리 진행하고 있다는 것”이라며 “AI를 개발할 때 권력 투쟁에 기반하면 악마가 되겠지만 진실에 기반하면 더 나은 AI가 될 것”이라고 당부했다.

이날 대담은 ‘2025년 아시아태평양경제협력체(APEC) 정상회의’를 계기로 9월 경주에서 개최하는 ‘국제경주역사문화포럼’의 사전 행사로 마련됐다.

대담에는 김지윤 서강대학교 사회과학연구소 연구원이 진행자로, 강연아 연세대학교 융합인문사회과학부 교수와 전병근 북클럽 오리진 대표가 패널로 참여했다.