송영배(완쪽) 한국에너지기술연구원 지식정보실장과 고재용 아이티메이트 대표가 협약체결 후 기념촬영을 하고 있다.[한국에너지기술연구원 제공]

[헤럴드경제=구본혁 기자] 한국에너지기술연구원은 ‘AI 활용 규정 챗봇 시스템을 ㈜아이티메이트에 기술이전을 실시했다고 6일 밝혔다.

이번 기술이전은 정부출연연구기관의 연구지원 부서에서 개발한 기술이 기업에 이전된 첫 번째 사례다. 기존까지 연구 업무의 효율적 지원에만 국한됐던 출연연 지원 부서의 한계를 극복한 사례로 주목받고 있다.

이전된 기술은 AI 기술을 활용한 채팅형 규정 세부 내용 답변 시스템이다. 사용자가 규정과 관련된 질문을 하면 시스템이 대규모 언어 모델(LLM)과 검색 증강 생성(RAG) 기술을 통해 최적의 답변을 도출하는 방식이다. 이를 이용하면 규정 검색에 들이는 시간을 10분의 1 수준으로 줄일 수 있다.

개발진은 대규모 언어 모델이 가진 환각 현상 등의 한계를 극복하기 위해 검색 증강 생성 기술을 도입했다. 미리 학습된 데이터만 활용하는 대규모 언어 모델은 답변이 어려울 때 허위 정보를 제공하는 경우가 있어 이를 보완하기 위한 수단이 필요하다.

개발진이 도입한 검색 증강 생성 기술은 규정 전문을 단어 수준으로 쪼개고, 쪼갠 단어를 수치화해 사용자의 질문을 수치화한 값과 가장 근접한 결과를 도출하는 기술이다. 검색 증강 생성 기술이 도출한 결과는 대규모 언어 모델에 전달되고 다시 문장 형태로 변환돼 사용자에게 제공된다.

송영배 실장이 ‘AI 활용 규정 챗봇 시스템’ 기술에 대해 설명하고 있다.[한국에너지기술연구원 제공]

에너지연은 현재 152개의 규정을 보유하고 있어 단어 검색을 통해 원하는 정보를 찾고 정확한 의미를 해석하기에는 많은 시간이 소요된다. 반면 해당 시스템을 이용하면 원하는 규정을 즉시 확인할 수 있고 문장의 의미도 함께 해석돼 규정 검색에 들이는 시간을 대폭 줄일 수 있다. 또 검색 증강 생성 기술의 정밀도 평가 지표(RAGAS)를 활용한 결과, 시스템이 도출한 답변은 90% 이상의 높은 정확도를 기록했다.

특히 개발된 시스템은 데이터의 외부 유출을 방지하기 위해 외부망과 연동되지 않은 상태에서도 작동할 수 있다. 규정 외에도 내부 게시판, 연구 논문 정보 등 모든 데이터의 적용이 가능해 기업과 기관의 특성에 맞는 다양한 형태로 활용할 수 있다는 것도 장점이다.

송영배 에너지연 지식정보실장은 “AI 챗봇 시스템을 통해 규정 검색의 효율성과 정보 접근성이 대폭 향상될 것으로 기대한다”며 “향후 출연연 행정 업무의 효율화를 선도할 수 있는 기반이 마련된 것”이라고 밝혔다.