미국의 패스트푸드 체인 타코벨이 드라이브스루 주문 접수에 인공지능(AI) 직원을 도입한 정책을 재검토하고 있다.

AI가 엉뚱하게 응대를 하거나 예상치 못한 주문에 제대로 대응하지 못하는 상황이 속출했기 때문이다.

최근 소셜미디어(SNS)에서는 한 고객이 타코벨 드라이브스루 매장에서 찍은 주문 영상이 화제가 됐다.

이 고객은 식사 메뉴 없이 마운틴듀(음료) 큰 사이즈를 주문했는데, AI는 “거기에 음료는 어떤 걸로 마시겠어요?”라고 물었다.

고객이 답답해하며 “마운틴듀 큰 사이즈 달라고!”라고 다시 요구했지만, AI는 여전히 “그럼 음료는요?”라고 같은 말을 반복했다. 이를 뒤에서 지켜본 동승자는 AI의 황당한 반응과 답답해하는 운전자의 모습에 웃음을 참지 못했다.

해당 영상은 인스타그램에서 2150만회 이상의 조회 수를 기록했다.



또 다른 영상에서는 한 고객이 타코벨 AI 접수원에게 “물 1만 8000컵을 달라”고 장난을 치자 AI는 순간 침묵하다 “어?”라는 외마디만 남겼고, 곧바로 인간 직원이 “무엇을 드릴까요”라고 대신 접수를 받았다.

타코벨은 2023년부터 미국 내 500개 이상의 매장에 AI 접수원을 도입해 주문 처리 속도를 높이는 것을 목표로 하고 있었다.

영국 BBC는 AI의 실수가 담긴 영상이 현지에서 화제가 되고 있다며 회사의 기대와 달리 AI가 정반대의 결과를 보여줬다고 전했다.

타코벨의 최고디지털기술책임자인 데인 매튜스는 월스트리트저널과의 인터뷰에서 “음성 AI를 구축하는 데 어려움이 있었다”면서 “가끔은 실망스럽기도 하지만, 가끔은 정말 놀랍기도 하다”고 말했다.

매튜스는 회사가 “많은 것을 배우고 있다”면서도 앞으로 AI를 어디에 사용할지 신중하게 검토할 것이라고 밝혔다. 드라이브스루에서 AI를 사용하지 않는 방안까지도 검토 중이라고 그는 덧붙였다.

특히 바쁜 시간에는 인간이 주문을 받는 것이 더 나을 때가 있다고 털어놨다.

주문 응대에 AI 기술을 섣불리 도입했다가 낭패를 겪은 것은 타코벨만이 아니다.

맥도날드 역시 드라이브스루 주문 접수에 AI 기술을 도입했다가 주문 실수가 잇따르자 지난해 AI 접수원을 철수했다. 당시 맥도날드 드라이브스루의 AI 접수원은 아이스크림에 베이컨을 추가하거나 치킨 너겟을 수백 달러어치를 추가하는 등 실수를 남발했다.

다만 타코벨은 몇몇 실수를 제외하고 AI 접수원이 200만건의 주문을 성공적으로 처리했다고 해명했다.