오드레 아줄레(Audrey Azoulay) 유네스코 사무총장이 5일(현지시간) 슬로베니아에서 열린 ‘유네스코 AI 윤리 글로벌 포럼’에서 유네스코와 민간 부문의 약속을 담은 AI 윤리 공동 성명서를 발표하고 있다. [LG 제공]

[헤럴드경제=김현일 기자] LG AI연구원이 인공지능(AI) 윤리 이행방안을 논의하는 국제 포럼에서 LG만의 AI 생애주기별 위험관리 체계 구축 경험을 공유했다.

LG AI연구원은 지난 5일(현지시간)부터 이틀간 슬로베니아에서 열린 ‘유네스코 AI 윤리 글로벌 포럼’에 국내 기업 중 유일하게 참가했다고 밝혔다.

올해로 2회째를 맞은 포럼은 ‘변화하는 AI 거버넌스의 지형’을 주제로 진행됐다. 유네스코 194개 회원국의 과학기술 담당 장관들과 유럽의회 사무총장, 앨런 튜링 연구소 윤리국장, 세계경제포럼 AI국장 등이 참석했다.

김유철 LG AI연구원 전략부문장은 이번 포럼에서 연구개발부터 활용 및 폐기에 이르기까지 AI 시스템의 생애주기별 LG만의 위험관리 체계 구축 경험을 공유했다. 아울러 글로벌 빅테크를 비롯해 유네스코 회원국 및 국제기구 인사들과 AI 윤리 및 거버넌스 분야에서 긴밀한 협력관계 구축방안을 논의했다.

LG AI연구원은 이번 포럼에서 민간 부문의 AI 윤리 기구인 ‘유네스코 비즈니스 카운실’에도 가입했다. 비즈니스 카운실엔 공동 의장사인 마이크로소프트와 텔레포니카를 비롯해 세일스포스, 세계이동통신사업자협회(GSMA) 등이 활동하고 있다. 유네스코의 AI 윤리 권고 이행을 촉진하며 AI 윤리영향평가 도구를 개발하고 운영 우수사례를 널리 알리는 역할을 한다.

LG AI연구원은 올해 상반기 중 유네스코와 함께 ‘전문가를 위한 AI 윤리 교육 프로그램’ 개발을 추진하는 등 글로벌 AI 윤리 리더십을 강화해 나갈 계획이다. 국제사회에 AI 윤리 실천 선도사례를 적극 알리는 한편, 국내 AI 업계의 목소리도 전달하는 역할을 할 방침이다.

이와 관련 LG AI연구원은 최근 ‘LG AI 윤리원칙’의 이행 성과를 담은 ‘AI 윤리 책무성 보고서’를 발간했다. LG의 AI 윤리원칙은 AI가 인류에 긍정적 가치를 제공해야 한다는 점을 강조하고 있다. LG AI연구원은 매년 보고서를 발간해 ‘LG AI 윤리원칙’ 이행 현황을 투명하게 공개할 계획이다.

LG AI연구원은 현재 ‘AI 윤리위원회’과 ‘AI 윤리사무국’, AI 알고리즘과 모델의 편견이나 오류를 찾아내는 ‘레드팀’, 임직원들의 자발적인 AI 윤리 실천 조직인 ‘AI 윤리 연구/활동 그룹’ 등을 운영하고 있다. 학습 데이터 내 개인정보를 모두 익명 처리해 민감정보가 학습에 활용되는 것을 막고, 욕설이나 혐오표현 등을 자동 감지하고 걸러내는 기술도 개발했다.

또한, 생성 AI 언어 모델이 사실이 아닌 말을 그럴 듯하게 만들어 내는 환각(Hallucination) 우려를 해소하고 신뢰할 수 있는 답변을 제공하는 AI를 만들기 위해 근거에 기반한 답변을 하는 AI 기술을 개발했다.

LG 관계자는 “AI 기술의 부작용과 위험성 해결이 주요 과제가 되고 있다”며 “국제사회가 AI 윤리 기준, 국제 규범과 같은 안전장치 마련에 공감대를 강화하고 있는 가운데 LG도 윤리적이고 책임감 있는 AI를 만들기 위한 집단지성 발현에 역할을 다하겠다”고 강조했다.