서울 서대문구 미근동 경찰청사 [연합]

[헤럴드경제=이용경 기자] 경찰청이 독일 경찰과 공동으로 ‘허위 조작 콘텐츠 판별 시스템’ 개발에 나섰다.

경찰청은 26일 오전 10시 서울 서대문구 미근동 청사 1층 어울림마당에서 ‘허위조작 콘텐츠 진위여부 판별 시스템 개발’ 착수보고회를 열었다.

이날 보고회에는 최주원 미래치안정책국장과 과학치안진흥센터(KIPoT) 최귀원 소장이 참석한 가운데 연구 컨소시엄의 숭실대 정수환 교수(연구책임자)와 성균관대학교 우사이먼성일 교수, 독일 부퍼탈대학의 토비아스 마이젠 교수가 분야별 연구 추진계획을 발표했다.

이번 연구는 ‘한·독 과학치안 국제공동연구’의 첫 사례다. 이는 그동안 경찰청이 과학치안 분야에서 국제협력을 강화하기 위해 노력해 온 결과다. 지난 2023년에는 경찰청 미래치안정책국과 독일 노르트라인베스트팔렌주(NRW주) 내무부 범죄수사국 간 공동의향합의서(JDoI)를 체결했고, 2024년에는 한·독 과학치안 협력센터를 개소하고 경찰관을 파견하는 등의 협력을 이어왔다.

경찰청 최초의 국제공동연구인 ‘허위조작 콘텐츠 진위여부 판별 시스템 개발’은 생성형 인공지능(AI)의 활용이 대중화되며 폭발적으로 증가하고 있는 ‘조작 콘텐츠’를 탐지하기 위해 올해부터 2027년까지 총 3년 동안 데이터셋 구축과 통합시스템 개발을 목표로 한다.

경찰청은 올해 초 공모 및 평가 절차를 거쳐 숭실대(주관 연구기관), 성균관대, 연세대, 한컴위드가 참여하는 연합체를 국내 연구기관으로 선정했고, 독일 노르트라인베스트팔렌 주 범죄수사청(LKA)의 추천을 받아 현장실사와 선정평가를 거쳐 부퍼탈대학을 공동연구기관으로 선정했다.

연구 첫 해인 올해는 인공지능 조작 영상(딥페이크), 딥보이스, 가짜뉴스 탐지용 데이터셋 구축과 탐지모델 고도화를 추진할 계획이다. 내년부터는 머신러닝 모델의 개발부터 배포·운영까지 과정을 자동화해 관리하는 시스템(MLOps, Machine Learning Operations) 기반의 통합 탐지시스템의 성능 고도화와 실증 테스트를 진행할 예정이다.

최주원 미래치안정책국장은 “국가 간 연구개발의 단순한 협력을 넘어 미래치안 위협에 양국의 과학치안 역량을 결집한 공동대응을 시작하고 향후 다른 국가로 확대하기 위한 첫발을 내디딘 것에 큰 의미가 있다”며 “이번 연구가 다양성에 기반한 데이터셋과 공정한 알고리즘을 통해 허위조작 콘텐츠 문제의 해법을 제시해주길 바란다”고 말했다.