인공지능(AI)으로 생성한 덜 익은 치킨 이미지.

[헤럴드경제=고재우 기자] #. 한 입 베어문 배달 치킨. 익지 않은 붉은 속살이 그대로 드러난다. 음식을 제대로 조리하지 않은 사진으로 생각하기 쉽지만, 인공지능(AI)으로 만든 사진이다.

위 사진처럼, 최근 온라인 배달 플랫폼이 AI를 활용한 허위 리뷰 사진에 곤욕을 치르는 사례가 늘고 있다.

사진을 비롯한 증빙 자료 첨부 시 환불을 해주는 규정을 교묘히 악용하고 있는 것이다. 가맹 점주뿐만 아니라 온라인 배달 플랫폼 모두가 몸살을 앓고 있다. 하지만 AI로 생성된 사진을 걸러낼 수 있는 기술은 전혀 없는 상황이다.

17일 업계에 따르면 최근 배달의민족, 쿠팡이츠 등 국내 양대 온라인 배달 플랫폼은 AI 허위 리뷰 사진을 통한 환불 요구에 진땀을 흘리고 있다. 온라인 배달 플랫폼 환불 규정을 악용한 블랙컨슈머들이 AI를 활용한 사진으로 속임수를 쓰는 것이다.

온라인 배달 플랫폼 1위 업체인 배달의민족은 이물 등 음식 품질에 대한 문제로 이용자가 주문 취소를 요구할 경우, 사진을 포함한 이용자의 증빙자료를 검토한다. 이후 가게로부터 취소 동의를 받고 환불 절차를 진행한다. 쿠팡이츠도 비슷한 상황이다.

다만 두 온라인 배달 플랫폼 모두 가맹 점주가 과실을 인정하지 않을 경우, 가맹 점주를 대상으로 손실 보상(포인트 포함)을 진행한다. 실제로 ‘아프니까 사장이다’와 같은 카페에서는 이 같은 하소연이 종종 올라온다.

인공지능(AI)을 통해 생성한 곰팡이 핀 계란 후라이 이미지.

문제는 국내 양대 온라인 배달 플랫폼 모두 AI 사진을 걸러낼 기술이 없다는 것이다. 허위 AI 사진을 통한 환불 요구 피해 종착지는 가맹 점주, 환불 절차를 진행해야 하는 온라인 배달 플랫폼이 될 수밖에 없는 구조다.

배달의민족은 AI 기술을 활용해 리뷰 조작 등은 걸려내고 있다. 하지만 AI 사진을 판별할 수 있는 시스템은 없다.

이 때문에 AI 사진을 이용한 주문 취소 등 부정행위에 대해서는 일일이 모니터링을 할 수밖에 없는 상황이다. 양대 온라인 배달 플랫폼은 부정행위 확인 시 영구 제재, 법적 대응 등으로 대응 중이지만, 육안으로 AI 사진임을 판단하기란 여간 어려운 게 아니다.

업계 관계자는 “현재 AI 사진을 판독할 수 있는 AI 기술은 없는 상황”이라며 “기본적으로 AI 생성 이미지라는 표시가 나오긴 하지만, 해당 부분을 잘라내서 사진을 첨부하면 판별할 수단이 마땅치 않다”고 밝혔다.

이어 “정기 모니터링을 강화해 이용 제재, 법적 대응 등 리뷰 건전성 유지를 위해 노력할 것”이라고 덧붙였다.