1인칭 총격 영상과 세차 장면도 혼동
혐오·폭력 탐지 0.6%… 유해물 못 걸러
내부문건 입수 WSJ “AI 미래는 멀었다”

10대 청소년에 대한 유해성을 알고도 서비스를 계속 운영했다는 비난을 받는 세계 최대 소셜미디어 페이스북이 이번에는 인공지능(AI) 기술을 둘러싸고 논란에 휩싸였다. 혐오발언(헤이트 스피치)이나 과도한 폭력을 포함한 콘텐츠를 신속히 삭제하기 위해 AI 시스템을 도입했지만 이를 제대로 걸러내지 못한다는 것이다. 그간 경영진이 AI 기술을 이용해 인종·성차별적 게시물을 탐지, 삭제하고 있다고 자신 있게 밝힌 것과 반대다.

페이스북의 내부 문건을 입수해 연일 비판 보도를 이어 가는 월스트리트저널(WSJ)은 17일(현지시간) “경영진은 플랫폼의 고질적 문제인 혐오 표현과 폭력적 이미지를 해결할 방편으로 AI를 꼽았지만, 그 미래는 아직 멀었다”며 이같이 전했다.

2019년 작성된 한 문건에 따르면 2018년 중반 페이스북의 한 엔지니어는 잔혹한 자동차 충돌사고와 투계 영상이 확산 중이라는 점을 파악하고 동료들과 AI가 해당 영상을 인식해 삭제하는 방안을 추진했다. ‘딥비전’이라는 이름의 정교한 머신러닝 프로그램을 활용해 가벼운 상처를 입은 닭이 나오는 영상은 그대로 두고, 심하게 다친 닭이 나오는 영상은 잡아내도록 한 것이다. 하지만 몇 주에 걸친 노력에도 AI는 투계장에서 싸우는 닭과 평범한 닭을 구분하지 못했다고 이 엔지니어는 밝혔다. 심지어 2건의 사례에선 분명히 닭이 싸우는 영상인데 AI가 자동차 충돌 영상으로 분류하기도 했다.

이들은 또 AI를 활용해 1인칭 총격 영상을 걸러내려 시도했지만 이 역시 실패했다. 2019년 3월 뉴질랜드 크라이스트처치에서 한 테러리스트가 이슬람 사원 2곳에서 51명을 총격 살해하면서 자신의 범행을 1인칭 시점에서 페이스북으로 생중계해 큰 논란이 된 바 있다. 보고서에 따르면 AI는 페인트볼을 쏘는 서바이벌게임이나 세차 장면을 1인칭 총격과 혼동한 것으로 나타났다.

증오 발언이 담긴 콘텐츠 역시 비슷했다. 한 수석 엔지니어는 2019년 중반에 작성한 내부 보고에서 페이스북의 자동화 시스템이 규정을 위반한 헤이트 스피치에 해당하는 게시물을 삭제하는 건 2%에 그쳤다고 밝혔다. 올해 3월 다른 내부 문건에서도 AI 시스템이 헤이트 스피치 조회 건수의 3∼5%에 해당하는 게시물을 삭제한 것으로 보고됐다. 폭력과 선동 등의 모든 규정 위반 콘텐츠로 대상을 확대하면 AI가 걸러낸 게시물은 0.6%에 불과했다.