AI 상담이 틀리게 안내하면 누가 책임지나요
손님에게 내놓은 AI 상담의 안내는 회사가 직접 한 안내로 보고 준비하기를 권합니다. 캐나다 브리티시컬럼비아주 민사분쟁심판소(Civil Resolution Tribunal)는 2024년 2월 14일, 항공사가 홈페이지 챗봇의 안내에는 책임이 없다고 다툰 사건에서 챗봇도 회사 홈페이지의 일부일 뿐이고, 회사는 홈페이지의 모든 정보에 책임이 있다고 결정했습니다. 고정된 안내 페이지든 챗봇이든 다르지 않다고 적었습니다.
가족상을 당한 손님이 항공권을 사기 전에 챗봇에 묻자, 챗봇은 표를 산 날부터 90일 안에 신청하면 유족 할인 요금을 나중에 돌려받을 수 있다고 안내했습니다. 실제 규정은 여행을 마친 뒤의 신청은 받지 않는다는 것이었습니다. 결정문은 그 챗봇이 어떤 방식으로 돌아가는지 항공사가 밝히지 않았다고 적었습니다. 어떤 기술이었든 홈페이지에서 손님에게 한 안내라는 점이 판단의 바탕이었습니다.
| 다툰 점 | 항공사의 주장 | 심판소의 판단 | 우리 회사가 볼 것 |
|---|---|---|---|
| 챗봇의 말은 누구 책임인가 | 직원, 대리인, 챗봇이 준 정보에는 책임지지 않는다 | 챗봇이 따로 책임지는 존재라는 주장은 받아들일 수 없다. 챗봇도 홈페이지의 일부다 | AI 상담의 답을 회사 이름으로 내는 안내문처럼 다루기 |
| 맞는 규정에 링크를 걸어 두었다 | 손님이 같은 홈페이지의 다른 페이지에서 맞는 정보를 찾을 수 있었다 | 규정 페이지가 챗봇보다 더 믿을 만한 까닭을 설명하지 못했다. 손님이 한 페이지의 정보를 다른 페이지에서 다시 확인해야 할 까닭도 없다 | 규정이 걸린 질문에 링크만 붙여 답하지 않기. 규정 문장 그대로 답하거나 사람에게 넘기기 |
| 손님이 믿은 것이 합리적인가 | 손님이 정해진 절차를 따르지 않았다 | 어느 쪽이 맞는지 손님이 알 길이 없으니 챗봇을 믿은 것은 합리적이다 | 손님은 AI 상담의 답을 회사의 답으로 받아들인다고 보고 설계하기 |
| 틀린 것을 안 뒤 | 직원이 메일로 챗봇이 오해를 부르는 말을 했다고 인정하고, 고치도록 기록했다고 답함 | 그 뒤로도 합의가 안 됐고, 손님의 청구를 대부분 받아들였다 | 틀린 답을 찾으면 근거 문서를 고치는 것과 따로, 그 답을 받은 손님을 먼저 챙기기 |
캐나다 한 주의 소액 분쟁 결정이고, 우리나라 법원이 같은 판단을 한 것은 아닙니다. 우리 회사에 어떻게 적용되는지는 법률 전문가와 확인하세요.
'우리 회사가 볼 것' 칸은 byte-creo가 결정문을 읽고 정리한 권고이고, 결정문에 적힌 내용이 아닙니다.
AI 상담은 언제 사람에게 넘겨야 하나요
돈이나 약속이 걸릴 때, 근거 문서에 답이 없을 때, 손님이 사람을 원할 때 넘깁니다. 아래 열 가지 가운데 하나라도 걸리면 AI는 답을 지어내지 말고, 사람에게 넘긴다고 알린 뒤 필요한 정보만 받아 넘기게 합니다.
- 손님이 사람을 찾을 때: '상담원 연결', '사람이랑 얘기할게요'처럼 분명히 사람을 원하면 바로 넘깁니다. 인터콤의 AI 상담(Fin)도 손님이 분명히 사람을 원하면 기본으로 곧바로 넘깁니다.
- 돈이 오가는 결정: 환불, 보상, 차액 돌려주기, 위약금, 할인 예외입니다. AI는 규정 문장을 그대로 보여 줄 수는 있어도, 이 손님에게 해 줄지 말지는 사람이 정합니다.
- 날짜와 수량을 약속하는 말: 배송일, 수리 끝나는 날, 재고 확보처럼 회사가 지켜야 하는 약속입니다. 시스템에 찍힌 값을 읽어 주는 것과 새로 약속하는 것은 다릅니다.
- 근거 문서에 답이 없을 때: 규정, 자주 묻는 질문, 상품 정보에서 답을 찾지 못하면 그럴듯하게 지어내지 않고 넘깁니다. 캐나다 사건도 챗봇의 답과 규정 페이지가 서로 다른 경우였습니다.
- 안전, 건강, 파손: 다쳤거나 다칠 수 있는 문의, 제품이 망가져 위험할 수 있는 문의는 사람이 바로 봅니다.
- 개인정보를 바꾸거나 보여 달라는 요청: 주소·연락처 바꾸기, 주문 내역 보여 주기, 탈퇴입니다. 본인인지 확인하는 단계가 먼저입니다.
- 화가 났거나 같은 말을 되풀이할 때: 인터콤은 손님이 세 번에 걸쳐 같은 말을 되풀이하거나 강한 불만을 보이면 사람에게 넘기기를 권하는 것을 기본 동작으로 둡니다.
- 도움이 안 됐다고 할 때: AI의 답에 '아니요', '그게 아니라요', '도움이 안 돼요'라고 하면 넘깁니다. 인터콤 도움말도 이런 부정적인 답을 곧바로 넘길 때의 예로 듭니다.
- 다툼이나 신고를 말할 때: 소비자 상담 기관, 소송, 신고, 언론을 말하면 담당자가 직접 답합니다.
- 큰 거래와 중요한 손님: 주문 금액이 정한 기준을 넘거나, 단골·기업 손님이면 처음부터 사람이 받는 편이 낫습니다. 인터콤의 넘김 규칙도 주문 금액과 VIP 손님을 조건의 예로 듭니다.
열 가지를 한꺼번에 넓게 넣으면 사람에게 넘어가는 상담이 크게 늘 수 있습니다. 인터콤은 넓게 쓴 넘김 지시가 넘김을 늘리고 AI가 끝내는 상담을 줄인다고 안내합니다. 틀리면 되돌리기 어려운 2·3·4·6번부터 넣고, 나머지는 넘어온 대화를 보며 더하기를 권합니다.
사람에게 넘길 때 손님이 처음부터 다시 말하지 않게 하려면
대화 전체와 세 줄 요약, 손님이 이미 준 정보, AI가 이미 안내한 내용을 담당자 화면에 같이 넘기고, 손님에게는 누가 언제쯤 답하는지 알립니다.
서울시가 2025년 10월 온라인쇼핑 이용 소비자 1,000명에게 물은 조사(2026년 2월 27일 발표)에서, 피해가 났을 때 가장 많이 겪은 불편은 고객센터 연결이 안 되거나 자동 응답 등으로 연락이 원활하지 않은 것(41.1%)이었습니다. AI 챗봇 상담에서 바라는 것은 챗봇과 직원 1:1 상담을 함께 운영하는 것(40.4%)이 가장 많았고, 복잡한 문의는 상담원에게 바로 연결(27.0%)이 뒤를 이었습니다.
| 같이 넘길 것 | 왜 필요한가 | 열기 전에 확인하는 법 |
|---|---|---|
| 대화 전체 | 담당자가 손님에게 같은 것을 다시 묻지 않게 | 시험 상담을 하나 넘겨 보고 담당자 화면에 처음부터 끝까지 보이는지 봅니다 |
| 세 줄 요약(원하는 것, 이미 안내한 것, 남은 것) | 바쁜 시간에도 담당자가 바로 이어받게 | 요약이 대화와 다르게 적히지 않는지 지난 문의 몇 건으로 견줍니다 |
| 손님이 이미 준 정보(주문번호, 사진, 연락처) | 다시 보내 달라고 하지 않게 | 사진과 파일이 담당자 화면까지 따라오는지 봅니다 |
| AI가 참고한 근거 문서 | 틀린 안내였는지 담당자가 바로 가리게 | 채널톡은 손님에게 출처를 보여 주지 않게 꺼 두어도 담당자 수신함에는 참고한 지식이 모두 보인다고 안내합니다 |
| 넘긴 까닭(열 가지 가운데 어느 것) | 나중에 넘김 조건을 고칠 근거 | 인터콤은 설정 때문에 넘어간 상담을 까닭별로 따로 셀 수 있습니다 |
| 손님에게 할 안내(누가, 언제쯤 답하나) | 기다림이 두 번째 불만이 되지 않게 | 상담 시간 밖에 넘어가면 손님에게 무엇이 보이는지 봅니다 |
표의 항목은 흔한 예시이고, 특정 회사의 사례가 아닙니다.
AI 상담이라는 것을 손님에게 알려야 하나요
알려야 합니다. 2026년 1월 22일 시행된 인공지능기본법 제31조 제1항은 생성형 AI를 이용한 제품이나 서비스를 제공하는 사업자에게, 그 서비스가 AI로 운용된다는 사실을 이용자에게 미리 알리도록 합니다. 다른 회사가 만든 AI를 가져다 손님 상담에 쓰는 회사도 '인공지능이용사업자'로 이 법의 사업자에 들어갑니다(제2조 제7호).
알리는 방법은 시행령 제23조가 정합니다. 상담 화면에 표시하거나, 이용약관 같은 곳에 적거나, 서비스를 하는 장소에 알아보기 쉽게 게시하는 것 가운데 하나면 됩니다. 이름이나 화면 문구로 AI인 것이 분명할 때와 회사 안에서 직원만 쓸 때는 적용하지 않을 수 있습니다.
| 규칙 | 정한 것 | AI 상담에서 할 일 |
|---|---|---|
| 인공지능기본법 제31조 제1항(미리 알리기) | 생성형 AI로 운용된다는 사실을 이용자에게 미리 알림. 알리지 않으면 3천만 원 이하 과태료(제43조) | 첫 인사에 AI 상담이라고 밝히고, 상담 이름에도 AI임이 드러나게 하기 |
| 같은 법 시행령 제23조(알리는 방법과 예외) | 화면 표시, 약관 등에 적기, 장소에 게시 가운데 하나. AI 사용이 명백하거나 내부 업무용이면 적용하지 않을 수 있음 | 약관에만 적기보다 상담 화면에 보이게 하기. 손님이 가장 쉽게 확인합니다 |
| 같은 법 제31조 제2항(결과물 표시) | 생성형 AI가 만든 결과물에는 AI가 만들었다는 사실을 표시 | AI가 쓴 답 옆에 AI 표시를 두면 두 조항을 함께 챙기기 쉽습니다. 채널톡은 AI가 보내는 메일마다 AI 답의 한계를 알리는 문구를 붙인다고 안내합니다 |
| 과학기술정보통신부 계도 방침(2026년 1월 21일) | 최소 1년 이상 규제를 유예하고 그동안 사실조사·과태료 계도기간을 운영. 사실조사는 인명사고, 인권 훼손 같은 극히 예외적인 경우에만 | 과태료를 미뤄 준 기간이라도 화면에 한 줄 알리는 데는 돈이 거의 들지 않으니 지금 붙이기 |
| 개인정보 보호법 제37조의2(자동화된 결정) | 사람이 끼지 않는 완전 자동 시스템(AI 포함)이 개인정보로 내린 결정이 권리·의무에 중대한 영향을 주면, 손님은 거부(일부 예외)하거나 설명을 요구할 수 있고 회사는 사람이 다시 처리하거나 설명해야 함. 결정의 기준과 절차도 공개 | 환불·보상을 거절하는 것 같은 결정은 AI 혼자 확정하지 않고 사람이 정하기 |
미리 써 둔 답을 버튼으로 고르게 하는 상담처럼 AI가 글을 만들어 내지 않는 경우는 이 법이 말하는 생성형 AI가 아닐 수 있습니다. 법은 생성형 AI를 입력한 데이터의 구조와 특성을 모방해 글, 소리, 그림 같은 결과물을 만드는 AI 시스템으로 정합니다(제2조 제5호).
손님 상담은 보통 법이 정한 고영향 AI 영역(채용, 대출 심사 같은 판단 등)이 아니지만, 그런 판단에 AI를 쓰면 의무가 더 많습니다. 과학기술정보통신부는 최종 결정에 사람이 개입하면 통제할 수 있는 것으로 보아 고영향 AI 대상에서 뺀다고 설명했습니다.
해당하는지 헷갈리면 법률 전문가나 과학기술정보통신부가 연 인공지능기본법 지원데스크에 확인하세요. 자동화된 결정 조항이 우리 상담에 걸리는지도 같습니다.
AI 고객센터 도구에서는 무엇을 확인하나요
AI 상담 도구에는 대부분 사람에게 넘기는 조건과 넘긴 뒤의 흐름을 정하는 설정이 따로 있습니다. 들이기 전에 사람 연결을 끌 수 있는지, 끄면 손님에게 무엇이 보이는지부터 확인하세요. 꺼진 채로 열면 손님은 AI 밖으로 나갈 길이 없습니다.
아래는 국내에서 많이 쓰는 채널톡의 AI 상담(ALF)과 해외에서 많이 쓰는 인터콤의 AI 상담(Fin) 공식 안내서에서 확인한 것입니다. 다른 도구도 같은 항목을 찾아보면 됩니다.
| 확인할 것 | 왜 보나 | 공식 안내서에 적힌 예 |
|---|---|---|
| 사람 연결을 끌 수 있나 | 꺼져 있으면 넘길 질문을 정해 두어도 넘어가지 않습니다 | 채널톡: 배포 설정의 '상담 열기 허용'을 끄면 상담 연결이 안 된다는 안내와 함께 연결하지 않음. 인터콤: 사람에게 보낼 곳을 정하지 않은 '봇만' 상태면 넘기기를 권하지 않음 |
| 기본으로 넘기는 경우 | 아무 설정을 안 해도 어디까지 넘기는지 알아야 더할 것이 보입니다 | 인터콤: 손님이 분명히 사람을 원하면 곧바로 넘기고, 강한 불만, 세 번 되풀이, '상담원'이라고만 말할 때는 넘길지 묻는 것이 기본 |
| 넘김 조건을 더하는 법 | 열 가지 가운데 우리 회사에 맞는 것을 넣는 자리 | 채널톡: 규칙(AI가 따를 지시문)을 문의 유형, 손님 등급, 상담 태그, 우선순위에 따라 다르게 둠. 인터콤: 손님 감정, 문의 종류, 주문 금액, VIP 같은 자료 조건으로 정하는 넘김 규칙과 말로 쓰는 넘김 지침 |
| 사람이 확인한 뒤 보내기 | 사람이 확인만 하면 되는 문의를 통째로 넘기지 않고 끝낼 수 있습니다 | 인터콤: 넘기는 대신 담당자에게 AI의 초안을 보여 주고, 담당자가 답하면 최종 답을 보내는 기능(메일, 채팅은 시험판) |
| 상담 시간 밖 | 밤과 주말에 넘어온 상담이 어디로 가는지 | 채널톡: 운영 시간에는 상담원 연결 흐름, 운영 시간 밖에는 AI가 바로 답하는 흐름으로 시간별로 나눌 수 있음. 인터콤: 사람 담당을 배정하지 않는 흐름이면 넘기기 제안을 건너뜀 |
| 열기 전 시험 | 손님 앞에 내놓기 전에 넘김이 실제로 되는지 | 채널톡: 규칙 미리보기에서 손님 화면과 관리자 화면을 그대로 시험하고, 답마다 어떤 규칙이 적용됐는지 기록으로 봄 |
| 넘김 숫자 | 넘김이 너무 많은지 적은지 판단 | 인터콤: 사람에게 넘긴 상담 수, 넘김 비율, 설정 때문에 넘어간 까닭별 숫자 |
두 도구는 예로 든 것이고 추천이 아닙니다. 메뉴 이름과 기본 동작은 자주 바뀌니 쓰는 도구의 최신 안내서를 확인하세요.
AI 상담을 연 뒤에는 누가 무엇을 보나요
CS 책임자가 넘어온 대화와 손님이 도움이 안 됐다고 한 대화를 매주 보고, 배송·환불·가격 규정의 담당자가 규정이 바뀌는 날 AI가 참고하는 문서도 같은 날 고치는 나눔을 권합니다. 캐나다 사건도 챗봇의 답과 홈페이지 규정 페이지가 서로 달랐던 경우였습니다.
| 언제 | 누가 | 볼 것 | 정할 것 |
|---|---|---|---|
| 열기 전 | CS 책임자, 대표 | 지난 문의 가운데 열 가지에 걸리는 것, 시험 상담 결과 | 넘김 조건, 첫 인사의 AI 안내 문구, 사람이 받는 시간 |
| 열고 첫 4주 동안 매일 | CS 담당자 | 사람에게 넘어온 대화, 도움이 안 됐다고 한 대화 | 틀린 답 고치기, 근거 문서에 빠진 내용 채우기 |
| 매주 | CS 책임자 | 넘김 비율과 까닭, 넘어온 뒤 손님이 같은 설명을 되풀이한 대화 | 넘김 조건을 넓힐지 좁힐지 |
| 규정이 바뀌는 날 | 그 규정의 담당자(배송, 환불, 가격, 행사) | AI가 참고하는 문서와 홈페이지 규정 | 두 곳을 같은 날 함께 고치기 |
| 분기마다 | 대표 | 손님 불만, 사람 상담에 드는 시간, 도구에 드는 돈 | AI가 끝낼 범위를 넓힐지, 그대로 둘지 |
넘김 비율이 낮을수록 좋은 것은 아닙니다. 넘겨야 할 질문을 AI가 붙잡고 있는 것일 수 있습니다. 비율과 함께 넘어온 대화의 내용을 읽어 보세요.
자주 묻는 질문
AI 상담사를 쓰면 손님이 싫어하지 않나요?
싫어하는 쪽은 사람에게 닿을 길이 막혔을 때입니다. 서울시 조사에서 AI 챗봇 상담의 불편으로 가장 많이 꼽힌 것은 질문과 관련 없는 획일적인 답(39.4%)이었고, 바라는 것은 챗봇과 직원 1:1 상담을 함께 운영하는 것(40.4%)이었습니다. 2026년 10월 31일 네이버 검색창에 'AI 상담사'를 치면 '문제점'과 '피하는 법'이 함께 뜹니다. 사람에게 넘기는 길을 첫 화면에서 보이게 두고, 답할 수 있는 것만 AI가 답하게 하세요.
답 아래에 '정확하지 않을 수 있습니다'라고 적어 두면 책임이 줄어드나요?
캐나다 결정은 이런 안내 문구를 직접 다루지 않았습니다. 다만 심판소는 챗봇의 답에 맞는 규정 페이지 링크가 걸려 있었는데도, 손님이 홈페이지의 한 곳에서 본 정보를 다른 곳에서 다시 확인해야 할 까닭이 없다고 봤습니다. 안내 문구에 기대기보다 돈과 약속이 걸린 질문은 사람에게 넘기는 편이 안전합니다. 우리 회사의 경우는 법률 전문가와 확인하세요.
다 사람에게 넘기면 AI 상담을 들인 뜻이 없지 않나요?
그래서 넘길 질문을 좁게 정합니다. 인터콤은 넓게 쓴 넘김 지침이 넘김을 크게 늘리고, 넘길지 물으면 AI가 풀 수 있었던 상담도 손님 대부분이 넘김을 고른다고 안내합니다. 배송 조회나 상담 시간처럼 정해진 답은 AI가 끝내고, 사람이 확인만 하면 되는 문의는 AI가 초안을 쓰고 사람이 확인해 보내는 방식으로 나누면 사람의 일이 줄어듭니다.
AI 상담에 넣을 근거 문서는 무엇부터 준비하나요?
손님이 가장 많이 묻고 틀리면 돈이 걸리는 문서부터입니다. 배송·교환·환불 규정, 가격과 행사 조건, 자주 묻는 질문, 상담 시간과 연락 방법을 홈페이지에 올린 문장 그대로 넣고, 고칠 때는 홈페이지와 같은 날 고칩니다. byte-creo 대표는 석유화학 대기업 안전·환경 부서의 생성형 AI 시범을 PL로 이끌며, 사내 규정과 외부 법규에서 근거를 찾아 답하는 AI 챗봇을 만들었습니다.
AI 고객센터를 밤과 주말에도 돌려도 되나요?
돌려도 되지만, 사람에게 넘겨야 할 문의는 밤에도 AI가 붙잡지 않게 합니다. 열 가지에 걸리면 필요한 정보만 받아 두고, 다음 상담 시간에 담당자가 먼저 연락한다고 알리세요. 채널톡은 운영 시간과 그 밖의 시간에 AI가 맡는 흐름을 따로 정할 수 있다고 안내합니다.
출처
모두 2026년 10월 31일 캐나다 브리티시컬럼비아주 민사분쟁심판소 결정문 원문, 국가법령정보센터의 인공지능기본법·시행령·개인정보 보호법 원문, 대한민국 정책브리핑, 서울시 발표, 채널톡·인터콤 공식 안내서에서 확인했습니다. 캐나다 결정은 그 주의 소액 분쟁 결정이라 우리나라 법의 해석이 아닙니다. 법 적용과 도구 설정은 바뀔 수 있어 매달 다시 확인합니다.
- 캐나다 브리티시컬럼비아주 민사분쟁심판소: Moffatt v. Air Canada, 2024 BCCRT 149(영어, 2024년 2월 14일) · decisions.civilresolutionbc.ca/crt/crtd/en/item/525448/index.do?iframe=true
- 국가법령정보센터: 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 · www.law.go.kr/LSW/lsInfoP.do?lsiSeq=282791&efYd=20260721
- 국가법령정보센터: 같은 법 시행령 · www.law.go.kr/LSW/lsInfoP.do?lsiSeq=288781&efYd=20260820
- 국가법령정보센터: 개인정보 보호법(2026년 9월 11일 시행) · www.law.go.kr/lsInfoP.do?lsiSeq=283839&efYd=20260911
- 대한민국 정책브리핑: '인공지능기본법' 22일 시행(과학기술정보통신부, 2026년 1월 21일) · korea.kr/news/policyNewsView.do?newsId=148958380
- 내 손안에 서울: 온라인쇼핑 소비자 'AI 추천은 편리, 피해 대응은 답답'(2026년 2월 27일) · mediahub.seoul.go.kr/archives/2017269
- 채널톡 사용자 가이드: ALF 배포 설정 · docs.channel.io/help/ko/articles/%EB%B0%B0%ED%8F%AC-%EC%84%A4%EC%A0%95-e9dbb764
- 채널톡 ALF 사용 가이드: 규칙 · docs.channel.io/alfv2/ko/articles/%EA%B7%9C%EC%B9%99-8338f878
- 인터콤 도움말: Manage Fin AI Agent's escalation guidance and rules(영어) · www.intercom.com/help/en/articles/12396892-manage-fin-ai-agent-s-escalation-guidance-and-rules
