헤럴드경제가 24일 만난 한세억 동아대 교수는 AI가 공정의 심판관은 아니지만 우리 사회가 외면해온 불평등 구조를 데이터로 비추는 거울이 될 수 있다고 했다. 부산=정형기 기자

[헤럴드경제(부산)=정형기 기자] 불공정은 우리 시대 화두다. 취업·주거·노동에서 ‘기울어진 운동장’을 호소하는 청년들, 선거관리 부실로 흔들리는 민주주의, 좁혀지지 않는 대·중소기업 임금격차 등. 국민권익위 조사에서는 국민 과반이 한국사회가 불공정하다고 인식했다.

AI가 이 문제를 풀 수 있을까. 헤럴드경제는 지난 24일 부산시 서구 동아대 부민캠퍼스에서 한세억 동아대 교수(인공지능정부연구소장)를 만났다. 삼성전자 출신으로 전자정부 분야를 30년 연구한 한 교수는 탐지-진단-메타평가-추천의 4단계 AI 모델로 사회 32개 영역의 불공정 구조를 분석하는 ‘공정성 증강 솔루션’을 개발했다. “AI가 공정을 판정할 수는 없다. 하지만 불공정 구조를 데이터로 드러낼 순 있다”는 그의 생각을 들어봤다.

▶엘리트도 특정 정부도 아닌 ‘사회적 정당성’이 AI 공정성 기준=AI로 공정을 판단할 때 그 기준을 누가 정하느냐는 민감한 문제다. 한 교수는 수학적 지표만으로는 부족하다고 잘라 말했다.

“이 모델의 공정성 기준은 법률·판례, 국제규범, 사회과학 이론, 시민 인식, 정책 목표를 종합적으로 학습해 도출한 사회적 정당성입니다. 엘리트든 정부든 특정집단이 임의로 정하는 게 아니라 헌법적 가치, 법률적 정합성, 사회적 수용성을 모두 반영하는 다차원적 공정성(Socially Constructed Fairness)이지요.”

탄핵·내란 논란처럼 가치판단이 개입되는 정치·사법 영역에서 AI의 중립성을 담보할 수 있느냐는 물음엔 단호했다. 완전히 중립적인 AI는 없다는 것이다. 어떤 데이터를 넣느냐에 따라 같은 사건을 AI가 ‘정당한 권한행사’로도 ‘민주주의 훼손’으로도 볼 수 있다.

한 교수는 “AI가 어떤 결론을 냈나보다 어떤 자료와 기준으로 분석했는지 공개할 수 있어야 한다. 데이터 공개성, 설명가능성, 외부독립 검증, 이의제기권이라는 4중 안전장치가 필요하다”며 “공정한 AI의 중립성은 ‘결론의 중립성’이 아니라 ‘절차의 중립성(Procedural Neutrality)’에서 나온다”고 말했다.

지난 6·3 지방선거에서 불거진 투표용지 부족사태와 관련해 그는 AI가 ‘조기경보 시스템’ 역할을 할 수 있다고 제시했다. 투표용지 부족위험, 특정 투표소 대기시간 급증, 민원폭증 같은 신호를 사전에 포착하는 것이다. 그러나 부정선거 여부를 판정하는 건 법원·국회·감사기관의 영역이라고 선을 그었다.

그는 “AI는 ‘이 선거는 부정선거’라고 결론 내려선 안된다”며 “사고 뒤 사과하는 시스템이 아니라, 사고 전에 위험을 알려주는 시스템이어야 한다”고 강조했다.

▶AI로 청년층 자산·부동산, 취업, 교육 박탈감 확인=청년세대의 공정성 분노도 화두에 올랐다. AI가 세대간 갈등의 옳고 그름을 판단할 수는 없지만, 기회와 자원의 불균형이 어느 정도인지는 데이터로 측정할 수 있다고 했다. 그는 “자산·주거·취업·교육·정치 참여 등에 가중치를 둬 세대간 공정성 위험지수를 도출할 수 있다”며 “지금 청년들은 자산·부동산, 취업, 교육 영역에서 높은 박탈감을 경험하는 것으로 나타난다”고 설명했다.

금융·복지·노동 분야의 구조적 패턴도 짚었다. 금융에서는 자산을 가진 사람은 시장상승의 복리효과를 얻지만 갖지 못한 사람은 높은 가격과 차입위험을 떠안는 ‘자산기반 기회격차’가, 복지에서는 가장 도움이 필요한 사람이 오히려 제도에 접근하지 못하는 ‘필요-수혜 불일치’가 문제다. 2024년 지니계수는 전년보다 악화됐고 상대적 빈곤율은 15.3%에 달한다. 노동에서는 개인의 노력보다 어느 기업·고용 형태에 속했느냐가 생애보상을 결정하는 구조가 문제다. 중소기업 임금은 대기업의 53.1% 수준에 머문다.

“금융·복지·노동은 따로 노는 게 아닙니다. 노동소득 차이가 자산격차로 누적되고, 자산격차가 교육·주거·금융·고용 기회의 차이로 재생산됩니다. 이 연쇄적 불평등의 고착화를 드러내 보여주는 것이 AI가 할 수 있는 일입니다.”

▶청년유출, 구조조정…부·울·경은 공정성 AI 적용 최적현장=한 교수가 공정성 AI의 실험무대로 주목하는 곳은 부산·울산·경남이다. 청년유출, 제조업 구조조정, 고령화, 원도심 쇠퇴가 동시에 나타나는 이 지역은 공정성 AI를 적용하기 가장 적합한 현장이라고 했다. 사회복지부터 인허가, 청년정책, 공공채용, 재정배분 순으로 확대적용할 계획이다.

그는 “AI 정부의 핵심은 효율성이 아니라 공정성이어야 한다. 허가가 빨라져도 특혜가 있으면 안 되고, 복지가 자동화돼도 차별이 있으면 불신이 쌓인다”면서 “‘지능형 정부(Intelligent Government)’를 넘어 ‘공정 정부(Fair Government)’가 목표”라고 밝혔다.

탐지 결과가 실제 제도개선으로 이어지지 않으면 무용지물이라는 지적에 그는 “그것이 바로 거버넌스 체계의 문제”라고 동의했다. 탐지-진단-메타평가-추천-이행-감사-재평가로 이어지는 공정성 거버넌스 체계와 가칭 ‘AI 공정성 기본법’ 제정, 시민패널, 외부 독립 검증위원회 도입이 뒷받침돼야 한다고 강조했다.

한 교수는 “AI는 공정성을 자동으로 실현하는 기술이 아니다. 사회가 스스로 공정성을 개선하도록 지원하는 공공 의사결정 인프라가 돼야 한다”면서 “AI 공정의 성공 여부는 모델의 정확도가 아니라, 그 결과가 제도개선으로 이어지는 실행체계를 얼마나 잘 구축하느냐에 달려 있다”고 말했다.