AI 기능 개발 발주 시 AI 기본법 표시·고지 의무를 검수 항목으로 옮기기

왜 발주서에 '법'을 적어야 하는가

챗봇, 생성형 글쓰기·이미지 기능, 추천 로직을 웹·앱·플랫폼에 넣어 발주하는 사업자라면 2026년 들어 한 가지 항목이 더 늘었습니다. 바로 AI 기본법 대응입니다. '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법'은 2026년 1월 22일 시행되었고, 생성형 AI 결과물과 딥페이크 결과물을 이용자가 명확하게 인식할 수 있는 방법으로 표시하도록 규정합니다(과학기술정보통신부 정책브리핑).

중요한 점은 이 의무가 모델을 직접 만든 회사에만 적용되는 것이 아니라는 데 있습니다. 시행령 입법예고에 따르면 타사가 만든 AI를 이용해 제품·서비스를 제공하는 사업자도 'AI로 생성된 결과물'임을 고지·표시해야 하는 대상에 포함됩니다(과학기술정보통신부 정책브리핑). 즉 외부 생성형 API를 붙여 서비스를 만든 발주사도 표시 책임에서 자유롭지 않습니다. 그렇다면 이 책임은 계약서와 검수 단계에서 미리 외주사와 나눠 두어야 합니다.

다만 과학기술정보통신부는 기업의 혼란을 줄이고 현장 준비 시간을 확보하기 위해 법 및 시행령에 따른 규제 적용을 최소 1년 이상 유예(계도기간)하기로 했습니다(과학기술정보통신부 정책브리핑). 계도기간은 '안 지켜도 되는 기간'이 아니라 '설계에 반영할 시간을 준 기간'으로 읽는 편이 안전합니다. 신규 개발 건이라면 지금 만드는 기능에 표시·고지 구조를 처음부터 넣어 두는 것이 나중에 소급 수정하는 것보다 비용이 적습니다.

법 조문을 발주서 요구사항으로 번역하기

법 제31조(투명성 확보)는 인공지능사업자에게 크게 세 가지를 요구합니다. 이를 개발 범위 언어로 바꾸면 다음과 같습니다(국가법령정보센터 제31조).

• 사전 고지: 고영향·생성형 AI 기반 제품·서비스는 '이 기능이 AI에 기반해 운용된다'는 사실을 이용자에게 미리 알려야 합니다. 발주서에는 챗봇 진입 화면, 생성 기능 버튼 근처, 추천 영역에 고지 문구를 노출하는 UI 요구사항으로 적습니다.
• 생성물 표시: 생성형 AI 결과물에는 생성 사실을 표시해야 합니다. 발주서에는 AI가 만든 텍스트·이미지·답변에 라벨이나 배지를 붙이는 기능, 그리고 공유·다운로드 시에도 표시가 유지되는지를 조건으로 적습니다.
• 실제와 구분이 어려운 결과물의 고지: 실제와 구분하기 어려운 가상의 음향·이미지·영상은 AI 생성 사실을 명확히 인식할 수 있는 방식으로 표시해야 합니다. 이미지·영상·음성 합성 기능이 있다면 워터마크나 메타데이터 표기 방식을 명세에 포함합니다.

여기에 더해 법은 사람의 생명·신체의 안전 및 기본권에 중대한 영향을 미칠 우려가 있는 고영향 인공지능에 대해 투명성·안전성 확보 의무와 사업자 책무를 두고, 영향평가 시 인공지능취약계층의 특성이 반영되도록 하고 있습니다(국가법령정보센터 제·개정이유 및 제34조). 채용, 의료, 금융 심사처럼 민감한 판단에 AI를 쓰는 서비스라면 '고영향'에 해당할 가능성을 외주사와 먼저 확인하고, 해당 시 설명 가능성·이의제기 창구 같은 요구사항을 추가해야 합니다. 자사 서비스가 고영향에 해당하는지는 법령과 소관 부처 해석을 기준으로 판단해야 하며, 이 글은 그 판단을 대신하지 않습니다.

계약서에 넣을 문장의 뼈대

표시 의무를 지키는 책임이 발주사와 외주사 중 누구에게 있는지 모호하면 분쟁이 생깁니다. 계약서에는 다음과 같은 취지를 명시하는 편이 좋습니다. 첫째, 외주사는 납품물이 시행 당시의 AI 기본법 표시·고지 요구사항을 충족하도록 기능을 구현한다. 둘째, 사용하는 외부 AI 모델·API의 변경으로 표시 방식이 달라질 경우 고지 의무를 진다. 셋째, 법령 해석이나 시행령 세부 기준이 바뀌면 유지보수 범위에서 어떻게 반영하는지를 정한다. 법적 책임의 최종 귀속은 법령에 따르므로, 계약 문구는 변호사 검토를 함께 받는 것이 안전합니다.

인수검수 체크리스트로 바꾸기

요구사항을 적었어도 검수 단계에서 확인하지 못하면 '구현했다'는 말만 남습니다. 인수검수 때 화면을 직접 보며 확인할 항목을 정리하면 다음과 같습니다.

• 진입 고지 확인: 챗봇·생성 기능·추천 영역에 들어갈 때 AI 기반이라는 사실이 이용자 눈에 보이는가. 약관 깊숙이 숨어 있지 않고 기능 사용 시점에 드러나는가.
• 생성물 라벨 확인: AI가 만든 결과물에 생성 표시가 붙는가. 결과를 복사·공유·내보내기 했을 때도 표시가 남는가.
• 합성 콘텐츠 표시 확인: 이미지·음성·영상 생성 기능이 있다면 화면 표기와 파일 메타데이터 양쪽에 표시가 있는가.
• 문구 관리 확인: 고지·표시 문구를 운영자가 수정할 수 있는가, 아니면 코드에 하드코딩되어 변경 때마다 개발이 필요한가. 법 해석이 바뀔 수 있으므로 관리자 화면에서 수정 가능한 구조가 유지보수에 유리합니다.
• 로그와 근거 확인: 어떤 응답이 AI 생성물인지 내부적으로 구분·기록되는가. 추후 문의나 점검에 대응할 근거가 남는지 확인합니다.

이 체크리스트는 가정 예시를 전제로 한 실무 틀이며, 서비스의 성격과 고영향 해당 여부에 따라 항목을 더하거나 빼야 합니다.

마무리: 지금 설계에 넣는 것이 가장 싼 방법

표시·고지는 기능을 다 만든 뒤 덧붙이는 장식이 아니라, 처음부터 데이터 흐름과 UI에 녹여야 하는 구조입니다. 계도기간이 있다고 해서 설계를 미루면, 나중에 모든 생성 지점에 표시를 소급 적용하는 수정 비용이 발주사에 돌아옵니다. 발주 단계에서 요구사항으로 명시하고, 검수 단계에서 화면으로 확인하는 두 지점만 챙겨도 대부분의 혼선을 줄일 수 있습니다.

AI 챗봇·생성형 기능·추천 로직을 넣은 서비스를 기획 중이고 표시·고지 요구사항을 설계에 반영한 상태로 개발하고 싶다면 AI·자동화 솔루션 개발에서 상담을 시작하실 수 있습니다. 법적 판단이 필요한 부분은 반드시 법률 전문가의 검토를 함께 받으시길 권합니다.