
2026년 3월 31일
제프 트로페아노
요즘 컨택 센터에서 “AI를 활용하고 있다”고 말하는 것은 마치 “전기를 쓰고 있다”고 말하는 것과 같습니다. 중요한 건 AI를 도입했느냐가 아닙니다. 핵심은 AI를 어떻게 활용하고 있는지, 그리고 그것이 실제로 고객의 삶을 더 편리하게 만들어 주고 있는지가 중요합니다. 수년간 다양한 산업 분야의 서비스 기업들과 협력해 온 경험을 통해 저는 한 가지 공통된 패턴을 발견했습니다. 어려움을 겪는 기업들은 도구가 없는 곳이 아닙니다. 그들은 현재 자신의 위치가 어디인지, 그리고 ‘더 나은’ 것이 실제로 무엇을 의미하는지 파악할 수 있는 체계가 부족한 기업들입니다.
COPC Inc.에서는 성숙도를 단순히 구매하는 도구가 아닌, 구현해내는 서비스 여정으로 정의합니다. 앞으로 나아가기 위해서는 단순한 분류 작업에서 벗어나 복잡하고 자율적인 협업 단계로 발전해가는 서비스 조직의 현실을 반영한 프레임워크가 필요합니다.
AI 성숙도의 5단계

여기서 말하는 성숙도란 고객에게 제공하는 서비스 여정을 의미합니다. 각 단계는 이전 단계를 바탕으로 구축되며, 탄탄한 기반 없이 다음 단계로 건너뛰면 결국 막대한 비용을 들여 고객을 더 빨리 혼란스럽게 만들게 됩니다.
1. 판별형 AI: 기초 이 부분은 필수 요건입니다. 여기에는 기본적인 분류, 라우팅, 의도 점수 산정이 포함됩니다. 이를 수행하지 않는다면, 디지털 시대에 여전히 수작업으로 우편물을 분류하는 것과 다름없습니다. COPC에서는 이를 '기본적인 수요 관리'라고 부릅니다. 문의 사항을 올바른 담당자에게 전달할 수 없다면 정교한 시스템을 구축할 수 없습니다. 이에 대한 검증 기준은 간단합니다. 데이터가 95%의 문의 사항을 정확하게 라우팅할 수 있을 만큼 정제되어 있습니까? 여전히 고객이 수십 가지 IVR 옵션 중에서 직접 선택하도록 의존하고 있다면, 다음 단계로 나아갈 준비가 되어 있지 않은 것입니다.
2. 대규모 언어 모델(LLM): 요약기 이 단계는 언어 생성, 요약 노트 작성, 그리고 녹취를 포함합니다. 현재 대부분의 조직이 이 단계에서 난관에 봉착해 있습니다. 도구를 도입하긴 하지만, 그 도구들은 종종 금붕어만큼이나 기억력이 짧습니다. 채널이나 세션 간에 맥락을 유지하지 못하기 때문에, 투자 수익률(ROI)은 손익계산서(P&L)상에서 입증하기가 유난히 어려운 생산성 향상이라는 형태로만 남아 있습니다. 이 단계가 AI가 실제로 지식 기반에 정보를 공급하는 전략에 통합되지 않는 한, 이는 그저 형편없는 메모를 더 빨리 생성하는 방법에 불과합니다. 참고로, 대부분의 조직이 현재 이 단계에 머물러 있습니다. (이에 대해서는 나중에 더 자세히 다루겠습니다.)
3. 생성형 AI: 크리에이터 이 단계에서는 다중 턴 대화와 시뮬레이션 기반 코칭으로 넘어갑니다. 흥미로운 부분이지만, 정확한 데이터가 없다면 위험할 수 있습니다. 지식 기반이 구식이라면, 생성형 봇은 고객에게 자신 있게 거짓말을 지어내게 될 뿐입니다. 바로 이 단계에서 ‘사람 시뮬레이션’이라는 함정에 빠지기 가장 쉽습니다. 기업들은 봇의 정확도를 높이는 데 집중해야 할 때, 봇이 더 공감하는 듯한 어조를 내도록 만드는 데 몇 달을 허비하곤 합니다.
4. 에이전트형 AI: 워커(The Worker) 이것이 바로 획기적인 전환점입니다. 이는 스스로 학습하고, 기억하며, 자율적으로 행동하는 도구들입니다. 이 시스템은 단순히 질문에 답하는 데 그치지 않고 문제를 해결합니다. 피드백을 통해 학습하고 예외적인 상황에도 적응합니다. 이는 단순한 소프트웨어 라이선스라기보다 팀원처럼 기능합니다. 이 단계에 도달하려면 기존의 품질 보증에서 AI 거버넌스로의 전환이 필요합니다. 단순히 코드를 점검하는 것이 아니라, 마치 실제 직원을 평가하듯 결과물을 감사해야 합니다.
5. MCP: 오케스트라 모델 컨텍스트 프로토콜(MCP)은 시스템 간에 협업하는 상호 운용 가능한 에이전트의 미래상을 제시합니다. 이는 에이전트들이 서로 협상하여 전체 기술 스택 전반에 걸쳐 최적의 결과를 도출하는 프로토콜의 전환을 의미합니다. 이는 고객이 여정을 거치는 동안 부서 간의 경계가 마침내 사라지는 궁극적인 서비스 청사진입니다. 청구 담당 에이전트가 배송 담당 에이전트와 직접 소통하므로, 고객은 자신의 사정을 반복해서 설명할 필요가 없습니다.
단계 사이의 죽음의 계곡
대부분의 기업은 2단계와 3단계 사이에서 진전을 보이지 못합니다. 코파일럿을 도입하긴 하지만 실제 업무 흐름에 통합하지는 않습니다. 챗봇을 출시하긴 하지만 고객이 실제로 도움을 받았는지 측정하지 않습니다. 이로 인해 기술 도입 비용은 명확히 드러나지만, 그 혜택은 단지 일화적인 수준에 그치는 ‘가치 격차’가 발생합니다.
에이전트형 AI로의 전환은 속도를 높이기 위해 일부 통제권을 포기해야 하므로 훨씬 더 어렵습니다. 기존 환경에서는 가능한 모든 상호작용을 사전에 정의해 두지만, 에이전트형 환경에서는 가이드라인과 목표만 설정하고 시스템이 최적의 경로를 스스로 찾도록 맡깁니다. 이는 대부분의 조직이 아직 구축하지 못한 수준의 신뢰를 필요로 합니다. AI를 마치 신입 사원처럼 온보딩하는 프로세스가 필요하며, 일회성 설치가 아닌 지속적인 피드백 루프가 동반되어야 합니다.
이를 제대로 실천하는 기업들은 AI 도입 과정을 직원 온보딩과 똑같이 다룹니다. 즉, 지속적인 피드백 루프, 문제 보고 체계, 성과 평가를 통해 관리하는 것이죠. 단순히 한 번 설치하고는 그저 바라기만 하는 방식이 아닙니다.
당신의 진정한 성숙도를 드러내는 두 가지 질문
이 척도에서 자신이 어느 위치에 있는지 파악하는 간단한 방법이 있습니다. 먼저 ‘맥락(Context)’을 살펴보세요. 여러분의 AI가 어제 고객이 누구였는지 알고 있나요? 모든 상호작용이 매번 처음부터 시작된다면, 봇이 아무리 ‘똑똑해’ 보일지라도 여러분은 여전히 초기 단계에 머물러 있는 것입니다.
둘째, ‘학습’ 기능을 살펴보세요. 코드를 다시 작성하지 않아도 시스템이 시간이 지남에 따라 스스로 개선되나요? 진정한 성숙함이란 시스템이 스스로 문제점을 파악하고, 이를 팀이 해결할 수 있도록 표면화하는 것을 의미합니다.
우리는 정적인 앱의 시대에서 동적인 에이전트의 시대로 나아가고 있습니다. 이 변화를 성공적으로 헤쳐 나가는 기업들은 단순히 더 스마트한 도구를 갖추는 데 그치지 않을 것입니다. 그들은 경쟁사보다 더 빠르게 배우는 문화를 갖추게 될 것입니다.

제프 트로페아노
글로벌 기술 컨설팅 부문 부사장