← 블로그 목록

AI는 도입했는데 왜 안 쓰일까 — ERP·CRM에 AI를 연결하는 표준 'MCP'로 보는 진짜 병목

2026.06.258분

도입은 했는데, 정작 아무도 안 씁니다

많은 기업이 생성형 AI를 도입했지만, 막상 현장에서는 '한두 번 써보고 마는' 도구에 그치는 경우가 적지 않습니다. 캐럿글로벌의 '2026 한국기업 AI 활용 현황' 디브리핑에 따르면 한국 기업의 생성형 AI 도입률은 61%에 달하지만, 조직 차원의 내재화는 6.7%에 그칩니다. '도입했다'와 '실제로 업무가 돌아간다' 사이에 깊은 골이 있는 것입니다.

a computer with a keyboard and mouse

이 격차를 '직원 교육 부족'이나 '더 좋은 모델이 없어서'로 진단하면 번지수가 틀립니다. 챗봇 창에 질문을 던지고 답을 복사해 다시 ERP에 붙여넣는 식이라면, 아무리 똑똑한 모델이어도 업무에 녹아들 수 없습니다. 진짜 병목은 모델의 지능이 아니라, AI가 사내 시스템의 데이터를 직접 읽고 쓰고 실행하는 '통합 계층'의 부재에 있습니다.

병목은 모델이 아니라 '연결'입니다

삼성SDS 인사이트 리포트(데이터넷)는 엔터프라이즈 에이전틱 AI의 핵심 난제가 알고리즘이 아니라 데이터 품질, 통합 구조, 에이전트 계층을 포함한 엔터프라이즈 아키텍처의 성숙도에 있다고 짚습니다. AI가 영업 현황을 요약하려면 CRM을 읽어야 하고, 재고를 확인하려면 ERP에 접근해야 하며, 처리 결과를 다시 시스템에 기록할 수 있어야 합니다. 이 연결이 없으면 AI는 '말은 잘하지만 일은 못 하는' 상태에 머뭅니다.

문제는 이 연결을 시스템마다 일일이 만들면 비용이 폭발한다는 점입니다. AI 모델 M개와 사내 도구 N개를 개별로 이으면 M×N개의 통합이 필요합니다. 여기서 등장한 것이 MCP(Model Context Protocol)입니다. Workato·IBM·QANDA 등의 개념 정리에 따르면, MCP는 모델과 도구 사이에 표준 인터페이스를 둬 M×N개의 개별 통합을 M+N으로 줄여줍니다. ERP에서 데이터를 읽고 CRM에 기록하는 식의 사내 연결을 표준화하는 것입니다.

MCP는 특정 기업 전용 규격이 아니라 업계 공동 표준으로 자리잡았고, 에이전트 간 협업을 위한 A2A 같은 관련 프로토콜도 여러 기업이 채택하면서(SK AX 등) 통합 표준 경쟁이 본격화됐습니다. 시장도 같은 방향을 가리킵니다. Gartner는 2025년 5% 미만이던 '업무 특화 AI 에이전트 탑재 엔터프라이즈 앱' 비중이 2026년 말 40%까지 늘어날 것으로 전망했습니다(2025년 8월 보도자료). 'AI를 시스템에 붙이는 일'이 선택이 아니라 기본기가 되어가는 흐름입니다.

people sitting on chair in front of computer monitor

외주 개발 파트너가 보는 통합 설계 체크리스트

표준이 생겼다고 해서 아무 시스템에나 AI를 연결해도 된다는 뜻은 아닙니다. AI에게 사내 시스템의 '실행 권한'을 주는 일은, 잘못 설계하면 사고로 직결됩니다. 안전한 통합의 핵심 원칙은 다음 세 가지입니다.

  • 도구별 최소 권한: AI에게 '모든 권한'을 한 번에 주지 말고, 작업에 꼭 필요한 범위만 부여합니다. 영업 요약 에이전트라면 CRM 읽기 권한만, 쓰기는 별도로 분리하는 식입니다.
  • 모든 도구 호출에 대한 감사 로그: AI가 언제 어떤 시스템에서 무엇을 읽고 실행했는지 전부 기록합니다. 사고 추적과 내부 통제, 그리고 책임 소재 확인의 기본입니다.
  • 민감 작업에 대한 휴먼인더루프 승인: 결제, 발주, 고객 정보 수정처럼 되돌리기 어려운 작업은 AI가 단독 실행하지 않고, 사람의 승인 단계를 반드시 거치게 합니다.

현장에서 자주 놓치는 실무 포인트도 덧붙입니다. 첫째, 레거시 데이터 정리가 먼저입니다. ERP·CRM 안의 데이터가 중복되거나 형식이 제각각이면, AI는 그 혼란을 그대로 학습해 잘못된 답을 냅니다. 둘째, 읽기부터 시작하는 단계적 도입이 안전합니다. 처음부터 AI에게 쓰기·실행을 맡기기보다, 조회·요약·초안 작성 같은 저위험 영역에서 신뢰를 쌓은 뒤 권한을 넓혀가는 편이 실패 비용이 낮습니다. 셋째, 표준을 따르되 사내 맥락에 맞게 설계해야 합니다. MCP 같은 표준은 출발점일 뿐, 어떤 데이터를 어떤 권한으로 어떻게 노출할지는 각 기업의 업무 구조에 맞춘 설계가 필요합니다.

마무리: '도입'이 아니라 '연결'이 숙제입니다

AI가 안 쓰이는 이유는 대개 모델이 부족해서가 아니라, 그 AI가 우리 회사의 시스템과 제대로 연결되어 있지 않기 때문입니다. MCP의 부상은 이 통합 계층이 이제 업계 공통의 과제가 됐음을 보여줍니다. 중요한 것은 '어떤 AI를 도입할까'를 넘어 '우리 ERP·CRM에 어떻게 안전하게 연결할까'라는 질문으로 옮겨가는 것입니다. 최소 권한·감사 로그·휴먼인더루프라는 원칙 위에서 사내 시스템과의 통합을 설계할 때, AI는 비로소 보여주기식 도입을 넘어 실제 업무로 내재화됩니다. FIRSTPIP은 이 통합 설계와 구축을 고민하는 기업들과 함께 그 다리를 놓아 드립니다.