← 블로그 목록

AI 에이전트와 RPA, 자동화할 업무 선정과 발주 검수 기준

2026.10.115분

자동화 발주가 어긋나는 지점은 기술이 아니라 범위입니다

AI 에이전트 도입을 검토하는 대표와 실무자에게 가장 먼저 드리는 말씀은, 문제는 모델 성능이 아니라 '무엇을 맡길지'를 정하지 못한 상태에서 발주가 시작된다는 점입니다. 시중에는 기존 어시스턴트나 챗봇을 에이전트로 다시 포장한 제품이 많습니다. Gartner는 이를 '에이전트 워싱(agent washing)'이라 부르며, 에이전틱 AI를 표방하는 수천 개 벤더 중 실제 역량을 갖춘 곳은 약 130곳 정도로 추정했습니다(Gartner 보도자료, 2025-06-25). 같은 발표에서 Gartner는 비용 상승, 불명확한 사업 가치, 미흡한 위험 통제를 이유로 2027년 말까지 에이전틱 AI 프로젝트의 40% 이상이 취소될 것으로 전망했습니다.

a computer circuit board with a brain on it

즉 발주자가 통제해야 할 세 가지는 비용, 가치, 위험입니다. 이 글은 이 세 축을 발주서와 검수 기준으로 옮기는 방법을 정리합니다.

어떤 업무를 에이전트로, 어떤 업무를 RPA로 둘지

두 방식은 경쟁 관계가 아니라 적용 영역이 다릅니다. 규칙 기반 자동화(RPA)는 입력과 처리 규칙이 고정된 반복 작업에 맞습니다. 예를 들어 정해진 양식의 전표를 ERP에 옮겨 입력하거나, 매일 같은 보고서를 추출해 메일로 보내는 일처럼 '판단'이 없는 작업입니다. 결과가 예측 가능하고, 틀리면 바로 눈에 띕니다.

AI 에이전트는 입력이 자유 형식이거나, 중간에 판단과 도구 호출이 필요한 작업에 적합합니다. 고객 문의를 읽고 의도를 분류해 적절한 내부 문서를 찾아 답변 초안을 만드는 일, 비정형 계약서에서 조건을 추출해 정리하는 일이 여기에 해당합니다.

선정할 때 던질 질문

  • 규칙으로 적을 수 있는가: 처리 기준을 몇 개의 if 문으로 명문화할 수 있으면 RPA가 더 싸고 안정적입니다.
  • 틀렸을 때 비용이 큰가: 오류가 금전·법적 책임으로 이어지는 업무는 에이전트에게 최종 결정을 맡기지 말고, 초안 생성까지만 시키고 사람이 확정하도록 설계합니다.
  • 입력이 매번 다른가: 들어오는 문서·요청의 형식이 제각각이면 규칙으로는 한계가 빠르게 옵니다. 이때가 에이전트의 영역입니다.
  • 처리량과 변동성: 양이 적고 가끔 발생하는 업무라면 자동화 구축비를 회수하기 어렵습니다. 자동화 대상에서 빼는 편이 낫습니다.

국내 중소기업·스타트업 현장에서 자주 보이는 오해는 '사람이 하던 일을 통째로 에이전트에 넘긴다'는 그림입니다. 실제로 성과가 나는 구성은 반복·정형 구간은 RPA가 처리하고, 판단이 필요한 구간만 에이전트가 맡으며, 책임이 큰 확정은 사람이 하는 분업입니다.

robot and human hands reaching toward ai text

파일럿 범위와 검수 기준을 발주서에 못 박기

취소되는 프로젝트의 공통점은 처음부터 범위가 넓고, 성공을 판정할 기준이 없다는 점입니다. 발주 단계에서 다음을 문서로 확정하시기를 권합니다.

파일럿 범위

  • 업무 한 가지, 시나리오 한정: 전체 고객 응대가 아니라 '배송 지연 문의 1차 답변 초안' 같은 좁은 범위로 시작합니다.
  • 성공·실패 판정 기준: 무엇을 얼마나 정확히 처리하면 합격인지, 어떤 오류가 나면 실패인지 수치나 사례로 미리 정의합니다. 이 기준이 없으면 '그�럴듯해 보인다'로 검수가 흐려집니다.
  • 대조군 비교: 기존 수작업 또는 RPA 대비 처리 시간·오류율을 같은 조건에서 비교해 가치를 확인합니다.

사람 확인 절차(위험 통제)

  • 에스컬레이션 규칙: 에이전트가 확신이 낮거나 금액·개인정보가 걸린 건은 자동으로 사람에게 넘기도록 조건을 명시합니다.
  • 로그와 추적: 에이전트가 어떤 근거와 도구 호출로 결론에 이르렀는지 기록이 남아야 합니다. 사후 검증과 책임 소재 확인에 필요합니다.
  • 롤백 수단: 잘못된 처리를 되돌리는 경로를 설계에 포함합니다.

운영비 항목

구축비만 보고 계약하면 운영 단계에서 예산이 어긋납니다. 모델 호출 비용(처리 건수에 비례), 모니터링과 오류 대응 인력, 업무 규칙이 바뀔 때의 유지보수를 발주서에 비용 항목으로 명시하고, 처리량이 늘 때 비용이 어떻게 증가하는지 가정 예시로 함께 받아 두시기 바랍니다.

마무리: 좁게 시작해 기준으로 판정하십시오

에이전틱 AI는 확산 국면에 있습니다. Gartner는 2028년까지 기업용 소프트웨어의 33%가 에이전틱 AI를 포함하고(2024년 1% 미만), 일상 업무 의사결정의 최소 15%가 자율적으로 이뤄질 것으로 전망했습니다(Gartner 보도자료, 2025-06-25). 흐름은 분명하지만, 발주자의 과제는 유행을 따르는 것이 아니라 자사 업무 중 자동화로 가치가 나는 구간을 가려내고, 검수 기준으로 결과를 판정하는 일입니다. 규칙으로 적히는 일은 RPA에, 판단이 필요한 일은 에이전트에 맡기되 책임이 큰 확정은 사람이 하는 분업을 발주서에 담으면 취소 위험을 크게 줄일 수 있습니다.

적용 업무 선정, 파일럿 범위 설계, 사람 확인 절차와 운영비 산정까지 함께 설계하실 파트너가 필요하시면 AI·자동화 솔루션 개발 안내를 참고해 주세요.