에어캐나다 챗봇이 그들을 뜨거운 물에서 구한 방법
Jake라는 고객은 에어캐나다의 챗봇이 에어캐나다의 사별 정책에 따라 부분 환불을 받을 수 있다고 잘못 말한 후 에어캐나다 항공편을 예약했습니다. 그는 할머니의 장례식에 참석하기 위해 마지막 순간에 여행을 가는데 $700 CAD 이상을 썼습니다. 나중에 그가 지시에 따라 환불을 신청했을 때 에어캐나다는 챗봇이 잘못됐다며 이를 거부했습니다. 그들의 정책은 여행 전 할인 요금만 제공합니다.
에어캐나다는 챗봇의 행동에 대해 책임이 없다고 주장했습니다. 그러나 판사는 기업이 모든 웹사이트 콘텐츠가 정확한지 확인해야 한다며 이에 동의하지 않았습니다. 에어캐나다는 챗봇이 자사 사이트의 일부라는 것을 알았어야 했고 이에 대해 책임을 져야 했습니다.
AI 비서의 영향
챗봇에는 대화형 요소가 있지만 여전히 회사 온라인 활동의 일부일 뿐입니다. 이번 판결은 AI 도구를 통해 제공된 잘못된 정보로 인해 기업이 위험에 처해 있음을 보여줍니다. 비용이 많이 드는 혼동을 피하기 위해 보조자의 실수를 면밀히 모니터링해야 합니다. 결국 Air Canada는 Jake에게 $800 CAD 이상의 손해 배상금을 지불해야 했습니다. 이는 고객 서비스 역할에 AI를 사용하는 모든 회사에 대한 교훈입니다.
요약하자면, 핵심 세부 사항은 고객이 에어캐나다의 챗봇으로부터 부분 환불을 잘못 약속받았고, 이로 인해 항공사가 AI 비서의 부정확한 정보에 대해 책임을 져야 한다는 법원 판결로 이어졌다는 것입니다. 요약의 어떤 부분이라도 자세히 설명하고 싶다면 알려주시기 바랍니다. 나는 공개적으로 이용 가능한 정보를 정중하고 유익하게 논의하는 것을 목표로 합니다.