테슬라 자율주행차 첫 사망사고… 기술 과시하는 인간의 오만 경고

지난 5월 테슬라 모델S를 오토파일럿 모드로 주행하던 탑승자가 숨졌다. 반대편 차선에서 좌회전하는 흰색 트레일러 트럭을 인식하지 못한 게 문제였다. 경찰 조사보고서에 따르면 모델S는 충돌을 일으킨 뒤에도 30m 가까이 멈추지 않고 주행해 주변 울타리들에 부딪쳐 도로 밖으로 이탈했다.

테슬라 모델S는 완전 자율주행차가 아니라 부분 자율주행차다. 운전자의 전방 주시 의무가 요구되는 2단계와 3단계 사이 기술이 탑재된 차량이었지만 기술자들은 자사의 핵심기술을 지나치게 믿었다. 자율주행기술 중 단 하나라도 완벽하게 작동하지 않으면 인명피해로 이어진다.

기술을 지나치게 과신하는 인간의 오만이 인간을 위협하고 있다. 미국 매사추세츠공대(MIT) 슬론경영대학원 알린 빌 올렛 교수는 지난 4일 CNN 방송에 출연해 “창업가들은 자기의 제품을 매우 과신하는 경향이 자주 있다”며 “이번 테슬라의 자율주행차 첫 사망사고는 인간의 판단을 기계에 전가하는 것이 가져오는 재앙에 대한 경고”라고 지적했다.


인공지능 기술은 그 자체로 인류에 기여할 수도 있고, 위협의 도구가 되기도 하는 극단적 양면이 동시에 존재한다는 게 전문가들의 공통된 견해다. 로봇이 주는 편의성은 자명하지만 기술에 의존하는 한 방향의 접근이 바람직한 것인지에 대해선 항상 비판적으로 바라봐야 한다는 설명이다.

실제로 최고의 기술을 집적한 각국의 로봇들이 참가하는 ‘다르파 로보틱스 챌린지’(DRC) 경진대회를 보면, 머리를 땅에 처박으며 사정없이 땅에 고꾸라지는 로봇들이 부지기수다. 지난달 열린 이 대회에서 주목을 끈 국내 뉴스는 우리나라 카이스트팀의 로봇 ‘휴보’가 당당히 1위를 차지했다는 소식이었지만, 세계적으로 가장 큰 인기를 얻은 것은 문을 열다가도 뒤로 나자빠지고 걷다가도 제풀에 쓰러지는 로봇들의 ‘슬랩스틱 코미디’ 영상이었다. 당시 뉴욕타임즈는 “2013년 12월 플로리다에서 열린 DRC 대회 이후 1년 반 동안 로봇 기술의 진전은 제한적이었다”고 보도했다.

미국의 저명한 정보기술 전문가 니컬러스 카도 그의 저서 ‘유리감옥’을 통해 시스템 오류는 수정되고 기술의 성능은 개선되지만 무결점은 결코 성취 불가능한 이상에 불과하다고 비판한다. 비행기 사고들에 대한 분석을 해봤더니 사고가 일어나는 가장 큰 원인이 비행기의 자동 운항을 과신하고 있는 조종사에 있었기 때문이었다.

김진형 소프트웨어정책연구소장은 “아직 인공지능 기술은 권위있고 완벽한 시스템이 아니다”라며 “기술은 인간의 한계를 지적해주고 인간이 의사결정을 내리는 데 도움을 줄 수 있는 역할을 해야 한다”고 말했다.

이정아 [email protected]

Print Friendly