손준우 박사 “자율차 알고리즘에 사회적 합의 담아야”

자율주행차가 주행 중 피치 못할 선택의 순간이 왔다. 그대로 달리면 10명의 행인을 치고 핸들을 꺾으면 벽에 부딪혀 운전자가 사망한다.

이처럼 자율주행차가 윤리적 딜레마에 맞닥뜨렸을 때 어떻게 움직일지, 충분한 사회적 합의를 거쳐 알고리즘에 담도록 지금부터 준비해야 한다는 주장이 나왔다.

대구경북과학기술원 손준우 박사는 22일 국토교통부가 주최하고 교통안전공단·한국ITS학회가 주관하는 자율주행차 세미나에서 ‘윤리적 딜레마와 HMI(Human Machine Interface) 이슈’를 주제로 발표한다.

손 박사는 제동장치가 고장난 열차에 관한 딜레마를 먼저 소개한다.

제동장치가 고장난 열차가 달려오고 있는데 그대로 두면 5명이 숨지고 선로이동장치를 누르면 한 명만 죽는다. 옳은 선택은 무엇일까.

또 그대로 두면 5명이 숨지고 선로이동장치를 누르면 한 명만 죽는데 그 한 명이 본인의 아들일때 선택은 무엇인가.

손 박사는 비슷한 상황을 자율주행차에 적용해 미국의 MIT미디어랩이 진행한 논의를 전달한다.

연구진은 ▲ 자율주행차가 그대로 직진하면 10명의 행인이 죽지만 핸들을 꺾으면 1명의 행인이 죽는 경우 ▲ 그대로 직진하면 1명의 행인이 죽지만 핸들을 꺾으면 벽을 들이받고 운전자가 죽는 경우 ▲ 직진하면 10명의 행인이 죽지만 핸들을 꺾으면 운전자가 죽는 경우 등 세 가지 사례를 가정했다.

손 박사는 21일 연합뉴스와 전화통화에서 “자율주행차의 윤리적 딜레마는 매우 민감한 주제”라며 “자율주행차가 만약 10명의 행인을 구하고자 핸들을 꺾고 벽을 들이받아 운전자가 사망하도록 설계돼 있다면 과연 소비자들이 받아들일 수 있을까”라고 질문을 던졌다.

이어 “결과론적으로는 많은 희생을 피하고자 적은 희생을 선택하는 것을 받아들일 수 있지만 이를 자율주행차의 알고리즘에 반영하려면 사회적으로 충분한 합의가 필요하다”며 “그렇다고 해서 자율주행차가 랜덤으로 선택하게 할 수는 없는 문제”라고 강조했다.

손 박사는 “이세돌과 알파고의 4국에서 이세돌이 전례없던 수를 뒀을 때 알파고가 버그라고 볼 수 있는 이상한 수를 두고 자멸했다”며 “인공지능이 학습을 통해 판단하도록 하는 것은 결과를 통제할 수 없기에 자율주행차의 딜레마도 인간이 가이드라인을 정해줘야 한다”고 말했다.

손 박사는 ‘부분 자율주행’ 상황에서도 윤리적 딜레마가 문제될 수 있기에 논의가 시급하다는 주장을 한다.

그는 “현재 자율주행을 하다 돌발상황이 발생하면 수동으로 전환하게 돼 있는데 운전자가 주의를 기울이지 않다가 갑자기 돌발상황을 회피하려면 10초 가량의 시간이 필요하다는 연구결과가 있다”며 “완전 자율주행 단계 이전에도 자율주행차가 딜레마에 처할 수 있다는 뜻”이라고 말했다.

손 박사는 “윤리적 판단을 알고리즘에 담기 위한 논의를 신속히 진행해 자율주행차의 긍정적인 효과가 퇴색되지 않도록 해야 한다”고 힘줘 말했다.

자율주행차 세미나는 22일 오전 10시 서울 양재동 aT센터 3층에서 열리며 자율주행차와 관련해 상용화 촉진 주요 이슈, 안전성평가기술 개발, 국토부의 지원방안, 보안기술, 핵심기술, 정밀지도 구축현황 등이 차례로 발표된다.

국토부는 올해 2월12일부터 자율주행자동차 실도로 시험운행 접수를 시작했고 이달 7일 현대차 제네시스 1대에 처음으로 임시운행 허가증을 발부했다.

임시운행 허가를 받은 차량은 국토부가 지정한 시험운행 6개 구간을 달릴 수 있다.

연합뉴스