정보 유출 이미지. [게티이미지뱅크]

[헤럴드경제=김현경 기자] #1. 2012년 미국 미니애폴리스의 한 가장은 집으로 배송된 우편물을 보고 화들짝 놀랐다. 타깃 쇼핑센터에서 10대 소녀인 딸 앞으로 보낸 광고 홍보지였는데, 임산부들이 사용하는 물건으로 가득했기 때문이다. 아버지는 타깃 매니저에게 항의했고 매니저도 왜 그런 전단지가 발송됐는지 영문을 몰랐다.

일주일 후 매니저가 사과 전화를 했을 때 아버지는 처진 목소리로 딸이 임신한 사실을 자기도 몰랐는데 쇼핑센터에서 어떻게 알았는지 되물었다. 매니저가 조사해 보니 소녀가 임신부에게 필요한 물건을 사면서 신용카드로 결제했고, 그 순간 인공지능(AI) 알고리즘은 소녀를 임신부로 분류한 것이다.

#2. 마크 저커버그 페이스북 창업자는 2010년 “프라이버시는 죽었다”고 선언했다. 사회관계망서비스(SNS) 사용자들이 자발적으로 자신의 일상을 올리기 때문이란다. 그가 최고경영자로 있는 메타의 사용자는 30억명이 넘는다. 이들은 매일 2시간30분 정도를 SNS에 소비하며 글이나 사진, 동영상을 올리고 다른 이들의 일상을 들여다본다.

홍성욱 서울대학교 과학학과 교수는 신간 ‘인공지능 파놉티콘’에서 제레미 벤담이 설계한 원형 감옥 파놉티콘을 분석 틀로 삼아 17세기부터 이어진 감시 기제와 빅데이터, AI의 발달로 더욱 교묘해진 현대 사회의 감시 문제를 다룬다.

모든 데이터가 수집·저장되는 사회에서 감시는 도처에 만연해 있다. 폐쇄회로(CC)TV와 범지구위치결정시스템(GPS)을 비롯해 휴대폰을 통해서도 위치가 추적되고, 기업은 직원과 소비자를 감시한다. 국가 기관 역시 사이버 공간을 들여다본다. 여기에 정보기술(IT)을 이용한 개인의 엿보기까지 더해져 ‘만인에 대한 만인의 감시’ 시대가 됐다.

SNS처럼 자발적으로 자신의 정보를 드러내는 경우도 있지만, 대다수의 경우는 원치 않게 프라이버시(사생활)가 노출된다. 어떤 서비스를 이용하기 위해 기나긴 약관에 동의를 누르는 것은 사실상 반강제적이고, 개인정보는 나도 모르게 또 다른 곳으로 새어 나간다. 지난해 쿠팡과 KT의 개인정보 유출 등으로 국민의 대다수가 피해를 봤지만, 개인은 반복되는 정보 유출 사건에 무력해졌고, 심지어 제대로 된 보상도 받지 못한다.

감시 자본주의 사회에서 더 큰 문제는 나의 자아가 조종된다는 것이다. 기업이 잉여 데이터를 활용해 소비자의 선호를 만들어내기 때문이다.

사회학자 데이비드 라이언은 21세기의 감시 시스템을 이해하기 위해 ‘감시 문화’란 개념을 제시했다. 국가, 기업 같은 외부의 영향뿐 아니라 개개인의 자발적 혹은 비자발적인 정보 제공 혹은 스스로 감시하는 주체가 되면서 감시가 생활 방식의 일부가 되는 것이다.

감시 권력의 비대칭성을 견제하기 위해 저자는 ‘역감시’와 ‘역파놉티콘’의 가능성에 주목한다. 디지털 시대의 노동자는 관리자의 화면을 역으로 모니터하거나 감시 기술을 기만하는 새로운 문화를 만들었다. 시민 운동을 통한 기업, 의정 감시와 정보공개 요구 등도 그러한 방식 중 하나다. SNS를 중심으로 확산한 흑인 인권 운동과 미투 운동, 우리나라의 탄핵 촉구 집회 등도 시민이 감시 권력에 저항한 사례다.

저자는 “이제 프라이버시는 개인의 권리를 넘어 사회 정의의 문제이며, 민주주의를 지탱하는 조건”이라며 “새로운 상상으로 감시 구조에 개입해야 한다”고 강조한다.

프랑스 철학자 에릭 사댕도 ‘유령의 삶’에서 감시받는 세계를 이야기한다. 스마트폰, 생성형 AI, 메타버스로 대표되는 디지털 체계를 ‘유령’이라 지칭하며, 이러한 것들이 인간 지성의 근간을 흔들려고 한다고 비판한다.

현대인들은 갈수록 실시간화하는 일상의 흐름에 대한 자동 모니터링에 직면했다. 현실은 또 다른 현실이 덧씌워지며 재가공되고, 인간의 의도와 욕망에 맞춰준다. 그는 이를 ‘알고리즘적 초현실주의’라고 명명한다.

기술·경제 복합체의 헤게모니에 맞서기 위해 사댕은 철학자 앙리 베르그송이 규정한 생명의 본질, 곧 ‘엘랑 비탈(lan vital)’을 회복해야 한다고 말한다. 현실을 주의 깊게 해부하고 그 무엇도 필연적인 것으로 간주하지 말아야 한다. 인간의 식물화를 막으려면 법과 규칙으로 형성된 공동체 안에서 주체성과 존엄성이 있는 존재가 되어야 하고, 타인과 건설적인 유대를 형성하며 공동의 삶의 방식을 구축하는 것이 필요하다.

인공지능 파놉티콘/홍성욱 지음/김영사

유령의 삶/에릭 사댕 지음·박지민 옮김/김영사