우리나라 ‘인공지능(AI)안전연구소’가 정식 출범했다. AI의 위험에 대해 체계적·전문적으로 대응하는 역할을 하게 된다.

삼성전자, LG, 네이버, 카카오, KT, SK텔레콤 등 국내 대표 정보통신기술(ICT) 기업들도 ‘대한민국 AI안전컨소시엄’으로 참여, AI 안전에 관한 다양한 협력 관계를 구축할 방침이다.

과학기술정보통신부는 27일 경기 성남시 판교 글로벌 연구개발(R&D)센터에서 AI안전연구소 개소식을 개최했다. AI안전연구소는 지난 5월 ‘AI서울정상회의’의 후속 조치로 출범했다. 당시 10개국 정상은 안전이 책임있는 AI 혁신을 위한 핵심요소임을 확인하고, AI안전연구소 설립과 안전한 AI에 대한 글로벌 협력을 강조했다. 당시 윤석열 대통령도 “대한민국 AI안전연구소 설립을 추진해 글로벌 AI 안전성 강화를 위한 네트워크에 동참할 것”이라고 밝혔다. 이에 과기정통부는 그간 연구소 조직·예산·인력·기능에 대한 사전준비를 거쳐 AI안전연구소를 출범하게 됐다.

AI안전연구소는 AI의 기술적 한계, 인간의 AI기술 오용, AI 통제력 상실 등으로 발생하는 다양한 AI 위험에 체계적·전문적으로 대응하기 위한 AI 안전 연구 전담 조직이다. 산·학·연 기관이 AI 안전 분야 연구 협력과 정보 교류를 할 수 있는 대한민국 AI 안전 연구 허브 역할을 하게 된다. 또 ‘국제 AI안전연구소 네트워크’의 일원으로 안전한 AI를 위한 글로벌 연대의 책임있는 역할을 수행해 나갈 계획이다.

이를통해 과기정통부는 AI 안전 분야의 경쟁력있는 기술·인력을 육성하고, 과학적 연구데이터에 근거한 AI 안전 관련 정책의 개발·선진화를 추진한다는 목표다.

개소식에는 류광준 과기정통부 과기혁신본부장, 염재호 국가AI위원회 부위원장(태재대 총장), 이경우 대통령실 AI·디지털 비서관 등 정부 관계자가 참석했다. 오승필 KT 최고기술책임자(CTO·부사장), 오혜연 카이스트 AI연구원장, 이은주 서울대 AI신뢰성연구센터장(언론정보학과 교수), 방승찬 한국전자통신연구원장을 비롯한 AI분야 산·학·연 핵심관계자 40여명이 참석했다.

김명주 AI안전연구소 초대 소장은 “연구소는 규제기관의 성격이 아니라, 국내 AI 기업이 글로벌 경쟁력을 확보하는데 장애가 되는 위험요소를 최소화하도록 지원하는 협력기관으로 역할을 하겠다”고 강조했다.

이어진 AI안전컨소시엄 협약식에는 AI분야 국내 대표 산·학·연 기관 총 24곳이 참여했다. 산업계에서는 삼성전자, LG AI 연구원, 네이버, 카카오 등이 참여했다. 컨소시엄은 AI 안전에 관한 정책연구, 평가, 연구개발의 상호협력을 위한 업무협약(MOU)을 체결했다.

AI안전연구소와 컨소시엄 참여기관이 함께 AI안전관련 국제규범 대응 등 정책연구, AI안전관련 기술 협력 등을 중점적으로 추진할 계획이다.

유상임(사진) 과기정통부 장관은 “AI안전연구소를 중심으로 산·학·연 연구역량을 결집해 AI안전의 기술·정책적 역량을 조속히 확보할 것”이라며 “글로벌 AI 안전연대의 주도적인 역할을 수행해 아태지역을 대표하는 AI 안전 연구허브로 발전해나갈 수 있도록 적극 지원하겠다”고 강조했다. 박세정 기자