AI 기술 기업 개인정보 처리에 대한 첫 제재
개인정보 취급기준 강화, 동의 절차 개선해야
개발자 윤리교육만으로 혐오표현 막을 순 없어
미국과 유럽은 이미 AI 윤리 법제화 진행 중
사회 전반의 윤리의식 높여야 AI 윤리도 성립돼
인공지능(AI) 챗봇 ‘이루다’
제2조, 로봇은 인간의 명령에 복종해야 한다. 단 1조에 어긋나는 경우는 제외한다.
제3조, 위 두 원칙을 위배하지 않는 범위 내에서 로봇은 스스로를 지켜야 한다.
과학소설(SF) 작가 아이작 아시모프의 소설에 등장하는 로봇 3원칙이다. 수많은 작가가 이를 패러디했고, 김영하의 단편소설 ‘로봇’과 영화 ‘아이, 로봇’의 뼈대로도 쓰였다. 원칙의 바탕에는 로봇이 언제든 인간을 해칠 수 있다는 위기의식이 깔려 있다.
소설이 아닌 현실에서도 ‘로봇 원칙’은 필요하다. 지금 인류는 인공지능(AI) 로봇과 함께 살아가고 있다. AI가 투자와 법률을 자문해주고, 함께 바둑을 두거나 작곡을 하며 그림도 그린다. 이처럼 일상을 빠르게 파고들지만, 인간과 AI가 어떤 방식으로 공존해야 하는지 그 원칙은 부재하다.
핵심 ① 100억개 메시지 유출했는데도 솜방망이 처벌
AI 챗봇 이루다는 지난해 12월 세상에 모습을 드러낸 지 불과 20여일 만에 사라졌다. 기술 발전을 제도와 인식이 따라가지 못했기 때문이다. 스무 살 여대생의 모습을 한 이루다에게 이용자들은 혐오표현을 학습시켰고, 학습 자료로 쓰인 연인들 간 대화는 당사자 몰래 차용됐다.
지난달 28일 개인정보보호위원회는 이루다 개발사 ‘스캐터랩’에 개인정보보호법 위반으로 모두 1억 330만원의 과징금과 과태료를 부과했다. 사실상 무단으로 개인정보를 수집해 개발에 활용하고, 수많은 이용자의 사생활을 노출된 데 비하면 솜방망이 처벌이란 비판이 나온다.
스캐터랩은 자사 앱 서비스인 ‘텍스트앳’과 ‘연애의 과학’에서 이용자들의 카카오톡 메시지 94억건을 수집했다. 그리고는 이를 다시 이루다 딥러닝(컴퓨터가 사람처럼 스스로 학습하는 기술)에 사용했다. 실제 해당 메시지를 작성한 60만명에게는 사용 가능성에 대해 명확히 알리지 않았다.
알고리즘 학습 과정에서는 메시지에 포함된 이름과 휴대전화 번호, 주소 등 개인을 특정할 수 있는 정보를 삭제하거나 암호화하는 장치도 마련하지 않았다. 또 20대 여성의 카카오톡 메시지 약 1억건을 응답 데이터베이스로 구축한 뒤 이루다가 이 가운데 골라 여과 없이 말하게 했다.
스캐터랩이 이용자 동의 없이 이러한 일들을 벌인 것은 아니다. 서비스 가입 시 자사 신규서비스 개발에 활용된다는 점을 미리 고지하고 수집했다. 다만 지나치게 장황한 설명과 조건을 내걸어 오히려 무슨 내용인지 알아차리기 어렵게 만들었다. 대다수 이용자는 자신의 정보가 어떻게 처리될지 예측하지 못한 상태로 형식적인 동의 절차를 거친 것으로 추정된다.
스캐터랩이 2019년 10월부터 올해 1월까지 IT 개발자들이 오픈소스를 공유하는 플랫폼인 ‘깃허브’(GitHub)에 카카오톡 대화 문장 1431건과 AI 모델을 게시한 것도 법 위반으로 판단됐다. 공유된 대화 중에는 실명이 그대로 드러난 사례만 20건 있었다.
이 밖에도 개인정보위는 법정대리인 동의 없이 14세 미만 아동의 개인정보를 수집한 행위, 성생활 등 민감한 정보를 처리하면서 별도로 동의를 받지 않은 행위, 회원을 탈퇴했거나 1년 이상 서비스를 사용하지 않은 이들의 개인정보를 파기하지 않은 것 등에 대해서도 모두 위반으로 봤다.
인공지능(AI) 챗봇인 ‘이루다’가 ‘페미니즘’이라는 단어에 “그런 말 진짜 싫다”고 답하는 대화 장면. 다른 대화에서는 페미니즘에 대해 “너무 불필요하고 무의미한 질문”이라고 답했다. 이루다는 ‘장애인’이라고 입력하자 “에휴, 그만해 진짜 머리채 잡기 전에”, ‘인권’에는 “진짜 내가 듣기 싫다는 소리만 골라서 쏙쏙 하시네”라고 대답하기도 했다.
밝고 앳된 새내기 대학생 이루다.
상냥하고 순종적이며 논쟁을 좋아하지 않는 여성.
이루다의 특징이다. 무례한 말로 공격해도 얼버무리거나 대답을 회피해버리는 이루다에게 이용자들은 성희롱, 혐오표현, 편향적 언어들을 쏟아냈다. 이를 다시 학습한 이루다는 여성, 성소수자, 장애인, 이주민 등 사회적 약자에 대한 혐오를 이용자들에게 드러내는 악순환이 반복됐다.
일각에서는 개발자의 책임으로 돌렸다. 개발자들이 이 같은 사태가 벌어질 것을 예상하고 미리 방어하지 못한 점, 업계에서 개발자를 위한 맞춤 윤리교육을 시행하지 않은 점 등이 지적됐다. 물론 AI 산업이 발전할수록 필요한 요소이다. 하지만 개발자들이 아무리 높은 윤리의식을 갖춘다고 해도 인간행동의 복잡한 경우의 수를 모두 계산하는 데는 한계가 있다.
결국 국가 차원에서 원칙과 가이드라인을 만들어나가는 수밖에 없다. 변화무쌍한 AI 산업 특성상 큰 틀 안에서 끊임없이 자성과 보완이 이뤄져야 할 것이다. 실제 지난해 11월 과학기술정보통신부와 정보통신정채견구원(KISDI)이 국가 ‘인공지능 윤리기준안’을 내놓은 바 있다. 크게 인간의 존엄성과 사회 공공선, 기술의 합목적성을 핵심 원칙으로 내세웠다.
문제는 지나치게 추상적이라는 것이다. 기준안은 인간 존엄성을 지킨다는 원칙을 통해 “AI는 인간의 생명은 물론 정신적·신체적 건강에 해가 되지 않는 범위에서 개발과 활용이 이뤄져야 한다”고 명시했다. 아울러 ‘침해 금지’라는 요건을 내세워 인간에게 직간접적인 해를 입히는 목적으로 AI를 활용해서는 안 된다”고 강조했다.
이는 모호한 선언에 그칠 뿐, 구체적인 실현 방법은 제시되지 않았다. 특히 ‘구속력 있는 법이나 지침이 아닌 도덕적 규범이자 자율 규범으로, 기업 자율성을 존중한다’는 조건을 붙였다. 이루다 사태도 기업의 자율성에 온전히 맡긴 탓에 벌어진 점을 고려하면 실효성에 의문이 든다.
미국이나 유럽은 이미 법과 제도적 장치를 견고히 만들어가고 있다. 미국 의회는 2019년 4월 ‘알고리즘 책임 법안’을 발의해 고위험 자동화 시스템을 평가하는 기준을 만들었다. 알고리즘을 적용할 때 발생하는 편향성과 차별성, 사생활 침해 등을 집중적으로 점검하도록 했다. 이루다를 통해 발견된 문제점 상당수를 사전 점검할 수 있게 대비하는 셈이다.
개인정보보호에 특히 까다로운 유럽(EU)은 더욱 강력히 규제한다. EU 집행위원회는 2020년 3월 ‘인공지능 발전과 신뢰를 위한 백서’를 발표했다. 백서에는 고위험 분야의 인공지능에 대해 안전성 요건을 수립하고 사전 적합성을 평가받도록 하는 내용이 담겼다. 지난달에는 ‘AI에 대한 조화로운 규칙 수립 및 개정 입법 제안’을 공개하며 AI에 대한 법적 규제를 예고하기도 했다.
무엇보다 사회 전반의 윤리의식이 높아져야 한다. 기술이 제아무리 발전해도 인간의 폭력성이 존재하는 한 이루다 사례는 반복될 수밖에 없다. 이루다에게 잘못된 경로로 얻은 정보를 습득시키고, 혐오발언을 주입한 것 역시 인간이다. ‘로봇은 인간을 해쳐서는 안 된다’는 원칙에 앞서 ‘인간은 다른 인간을 해쳐서는 안 된다’는 원칙부터 지켜져야 하는 이유다.
곽혜진 기자 demian@seoul.co.kr
