메타 ‘Muse’ 전화 뒤엔 사람이 있었다…AI 비서의 공개·동의 시험대
메타가 개인 AI 에이전트 Muse의 전화 기능을 개선하려고 일부 사내 시험에서 계약직 상담원이 통화를 대신 처리하는 ‘휴먼 컨시어지’를 붙였다가, 충분한 고지 없이 시작한 것은 잘못이었다며 기능을 일단 되돌렸습니다. 사람이 개입한 시험의 성공률은 95~98%로 AI 단독 통화보다 높았지만, 이용자가 AI와 사람 중 누구에게 민감한 용무를 맡기는지 알아야 한다는 문제가 남았습니다. 개인 AI 경쟁의 기준이 작업 성공률만이 아니라 고지·동의·감사 기록으로 옮겨가고 있습니다.
AI가 건 전화, 실제로는 사람이 맡기도 했다
로이터는 9월 22일 메타 내부 게시물을 근거로 Muse의 ‘휴먼 컨시어지’ 시험을 보도했습니다. 사용자가 미용실 예약, 재고 확인, 공사업체 견적처럼 전화가 필요한 일을 맡기면 Muse가 미국 사업체에 전화를 거는 기능입니다. 시험 과정에서 일부 요청은 AI 음성 대신 훈련받은 계약직 상담원이 넘겨받아 상대방과 대화했습니다.
사람의 개입 자체가 문제는 아닙니다. 복잡한 문의를 처리하거나 자동전화를 거부하는 사업체와 소통할 때 보조 인력이 품질을 높일 수 있습니다. 문제는 사용자가 AI가 처리한다고 생각한 용무를 누가 듣고 말하는지 충분히 알지 못했다는 점입니다.
95~98% 성공률과 개인정보의 맞교환
내부 시험에서는 인간 상담원이 맡은 전화의 성공률이 95~98%까지 올라갔고 AI 단독 통화는 그보다 낮았다고 전해졌습니다. 예약처럼 성공 여부가 분명한 과제에서는 매력적인 수치입니다. 그러나 인터넷 요금 협상, 보험 문의와 의료 예약에는 주소와 계정 정보, 건강 상태처럼 용무를 끝내기 위해 필요한 개인정보가 따라붙습니다.
직원들은 상담센터 계약자에게 불필요한 정보가 넘어갈 수 있다고 우려했습니다. 한 직원이 요청한 통화의 녹취에는 부적절한 인종 관련 표현도 포함됐습니다. 메타 책임자는 해당 상담원이 더는 메타 프로젝트에서 일하지 않도록 하겠다고 했고, 적절한 고지 없이 시험을 시작한 것은 ‘실수’였다고 인정했습니다.
메타가 약속한 Secure VM과 승인 구조
메타의 9월 8일 공식 발표에 따르면 Muse는 사용자마다 분리된 전용 가상 컴퓨터인 Muse Secure VM에서 작동합니다. 비밀번호와 결제 정보는 에이전트가 직접 보지 못하는 별도 저장소에 두고, 이메일 전송이나 구매 같은 민감 작업 전에는 사용자 승인을 받습니다. 사용자는 연결한 앱의 권한을 바꾸거나 끊고, Muse가 수행한 작업의 감사 기록을 볼 수 있습니다.
이 설계는 소프트웨어 안에서의 권한 통제에는 유용하지만 외부 사람에게 작업이 넘어가는 순간 별도의 규칙이 필요합니다. 어떤 데이터가 사람에게 보이는지, 통화와 녹취가 어디에 얼마나 오래 남는지, 하청업체가 다시 처리하는지까지 같은 화면에서 설명돼야 합니다.
기능은 중단됐지만 경쟁 압력은 남았다
메타는 해당 기능을 현재 되돌렸으며, 공개 출시가 이뤄지더라도 적절한 고지와 안전·프라이버시 보호를 갖춘 뒤에만 진행하겠다고 밝혔습니다. Muse는 출시 약 2주 만에 Sensor Tower 집계 기준 250만회 넘게 내려받히며 빠르게 확산했습니다. 초기에 높은 성공률을 보여야 하는 압력이 사람의 개입을 조용히 숨기게 만들 수 있다는 점을 보여 줍니다.
동시에 Muse는 다른 서비스와의 경계도 시험하고 있습니다. 아마존은 Muse가 신원을 명확히 밝히지 않고 쇼핑 사이트에 접근한다며 구매 기능을 차단했습니다. 개인 에이전트가 웹을 대신 이용하려면 사용자 동의뿐 아니라 상대 서비스와 통화 상대에게도 정체와 목적을 공개해야 한다는 쟁점입니다.
‘성공한 작업’보다 먼저 확인할 것
개인 AI를 쓸 때는 완료율 외에 처리 주체를 확인해야 합니다. 사람에게 넘어갈 수 있는 작업은 시작 전에 별도 동의를 받고, 민감정보를 최소화하며, 언제든 자동 처리로 제한하거나 취소할 수 있어야 합니다. 통화 상대에게도 AI 또는 대리인이 전화한다는 사실과 녹취 여부를 알려야 합니다.
기업은 사람 개입률, 개입 사유, 데이터 접근 범위와 사고 건수를 공개하는 편이 신뢰에 도움이 됩니다. AI가 사람을 완전히 대체하지 못해 뒤에서 지원받는 과도기는 자연스럽습니다. 다만 그 연결을 숨기지 않고 사용자가 선택하게 만드는 것이 개인 AI의 편리함을 프라이버시와 양립시키는 출발점입니다.
기사가 마음에 드셨다면 하트를 눌러주세요.
기사 읽고, 잠깐 게임 한 판 어떠세요?
입체적인 캐릭터 체스 말로 즐기는 AI 대국
미니게임 고르기 ▶