← 블로그 목록
AI 에이전트 개발의 실행 권한과 보안 설계
에이전트가 실행할 수 있는 일을 먼저 제한합니다
AI가 도구를 호출할 수 있다면 응답 품질과 함께 실행 권한도 검수해야 합니다. 조회와 데이터 변경, 결제와 외부 발송을 같은 권한으로 묶지 마세요. 모델의 판단만으로 중요한 작업을 실행하게 하는 구조는 별도 통제가 필요합니다.
승인과 실패 처리를 실행 경로에 넣습니다
요청마다 사용자 권한을 확인하고 도구별 허용 범위와 호출 한도를 정합니다. 문서나 외부 입력에 들어 있는 지시를 업무 승인으로 취급하지 않도록 점검하세요. 중복 실행 방지, 사람의 확인과 실행 기록을 준비하고 실패했을 때 중단하거나 되돌릴 범위를 합의합니다.
설계와 운영에서 확인할 항목
- 승인 승인 단계(Human-in-the-loop): 결제·외부 전송·삭제·대량 수정 등 되돌리기 어려운 행동은 사람 승인을 거치도록 분기했는가. 어떤 행동이 '고위험'인지 목록을 확정했는가.
- 감사 로그: 에이전트가 '무엇을 왜 어떤 권한으로' 호출했는지 전 과정을 추적 가능한 형태로 남기는가. 사고 시 재구성이 가능한 수준인가.
- 에이전트 신원(IAM): 에이전트에 사람 계정을 빌려주지 않고 고유한 신원과 권한 범위를 부여하는가. 사용자별·세션별로 권한이 분리되는가.
- 입력 신뢰 경계: 외부 문서·웹·고객 입력 등 '신뢰할 수 없는 데이터'와 '시스템 지시'를 구분해 처리하는 설계가 있는가.
- 회수·차단 절차: 이상 징후 시 특정 에이전트의 권한을 회수하거나 정지할 수 있는가.
프로젝트를 준비하고 있다면 위 항목을 요구사항과 검수 목록으로 정리해 개발 범위를 확인하세요. AI 개발 서비스에서 상담 범위를 확인할 수 있습니다.