기업은 AI 시스템 도입계약을 어떻게 체결하여야 하나?
(사)테크앤트레이드 연구원 김두식 이사장 변호사 2024년 12월 30일 AI를 생산활동이나 업무에 통합하는 기업들이 급속히 늘고 있다. 하지만 기업들이 AI구매계약을 어떻게 체결하여야 할지에 대해 많은 연구가 필요하다. AI 구매계약의 핵심은 AI의 위험과 관련한 책임을 당사자 사이에 어떻게 분배할 것인가 하는 것이다. AI는 PC와 스마트폰을 통해 문서나 동영상 등 이미지를 만들어내는 ‘생성형’ 모델을 넘어서, 로봇의 몸을 입고 물리적 움직임을 구현하는 ‘행동형’ AI로 계속 진화하고 있다. 이에 따라 AI 관련 위험도 다양해지고 있다. AI 관련 법률과 규제환경도 불확정적이다. 이 모두 AI 구매계약을 복잡하게 만드는 요인들이다. 아래 글은 미국변호사협회(ABA)가 발표한 AI 구매계약안(AI Addendum)을 바탕으로, AI구매와 관련하여 어떤 법률적 이슈들이 있는지, AI 구매계약을 어떻게 체결할지 살펴본다. 서론 인공지능 (이하 “AI”) 시스템을 생산활동이나 서비스 등 비즈니스 운영에 통합하는 기업들이 급속히 늘고 있다. 미국 실리콘밸리에서 기업용 채팅 솔루션 기업 ‘샌드버그’를 창업하여 유니콘(기업가치 10억불 이상 비상장사)으로 키워낸 김동신 샌드버그 대표는 AI가 ‘빛의 속도’로 업무에 도입되고 있다”면서, “실리콘밸리 회사들의 도메인에 ‘닷컴’은 없다. ‘닷에이아이(.ai)’로 전부 바뀐지 오래”라고 말한다.[1] AI를 도입하려는 기업은 AI시스템을 자체적으로 개발하여 사용하지 않는 한, AI 시스템 개발 기업(이하 “AI 제공자”)으로부터 AI시스템을 구매 또는 구독 방식으로 획득, 사용하게 된다. 그런데 AI 시스템을 구매 또는 구독하고자 하는 기업(이하 “AI구매회사”)이 AI 구매 또는 구독계약(이하 “AI구매계약”)을 체결하는 것이 간단하지 않다. 계약의 목적물인 AI그 자체가 무한진화 하고 있고 AI에 수반되는 위험과 법적 환경이 불확정적이기 때문이다. AI는 PC와 스마트폰을 통해 문서나 동영상 등 이미지를 만들어내는 ‘생성형’ 모델을 넘어서 로봇의 몸을 입고 물리적 움직임을 구현하는 ‘행동형’ AI로 진화하고 있다. 젠슨 황 엔비디아 최고경영자(CEO)는 지난달 ‘도쿄 엔비디아 AI 서밋 재팬’ 행사에서 “AI혁신은 디지털(Digital)에서 피지컬(Physical)로 확산될 것”이라며 “앞으로 5년간은 인간형 로봇의 진화에서 큰 진척을 볼 수 있을 것’이라고 말한 바 있다.[2] 피지컬 AI는 물리적 세계를 인식하고, 이해하고, 물리적 동작을 하는 AI를 말한다. 피지컬 AI는 생성형 AI처럼 학습과 추론을 통해 배우지 않는 동작도 수행할 수 있다. 이처럼 AI가 계속 진화하면서AI 구매계약도 진화할 수밖에 없다. 법률적 관점에서 AI구매계약의 핵심 내용은 AI의 위험과 관련한 책임을 당사자 사이에 어떻게 분배할 것인가 하는 것이다. AI의 위험은 다양하다. ‘생성형’ AI시스템은 편향성과 차별로 오염된 콘텐츠를 생산하거나 오답과 거짓정보 등을 산출할 수 있다. AI 시스템에 사용자의 데이터나 정보가 AI시스템에 투입됨에 따라 정보나 데이터 보호 문제, 사이버 보안 문제가 등장한다. 또한 AI가 ‘행동형’으로 진화하면서 AI 시스템의 물리적 작동을 통해 인간의 생명과 신체 혹은 재산에 현실적 손해를 발생시킬 수도 있다. 문제는 AI 시스템에 수반되는 위험이 불확실하고 AI 관련 법과 규제가 불확정적이라는 점이다. AI 시스템 제공자의 입장에서도 자신이 만든 AI시스템이 어떻게 작동할지 정확히 예측하기 어렵고, 따라서 사용자에게 어떤 위험을 야기할지 완전히 파악하기 어렵다. 하물며 AI 시스템을 구매 또는 구독하는 기업들은 AI시스템을 사용함에 따른 위험이 무엇인지 정확히 알기 어려운 것은 당연하다. 게다가AI에 수반되는 위험과 관련된 법률문제가 아직 정리되지 않은 상태다. AI의 안전성과 신뢰성 확보를 위한 공적 규제체계도 아직 확립되어 있지 않다. 이와 같은 상황에서는 AI시스템 제공자와 AI 구매자가 AI의 위험을 정확히 계량하고AI 구매계약의 세부조건을 명확하게 정하기 어려운 것이 사실이다. 미국변호사협회(ABA)는 AI시스템의 구매자 입장에서 가급적 구매자의 이익을 보호하는 AI 구매계약안(AI Addendum)을 제시하였다. 이 AI구매계약안은 ABA회장이 조직한 태스크포스(TF)에서 알렉산드리아 (렉시) 루츠 (Alexandria (Lexi) Lutz), 스펜서 루빈 (Spencer Rubin), 리사 R. 리프시츠 (Lisa R. Lifshitz), 테드 클레이풀 (Ted Claypoole) 등 몇몇 AI 전문 변호사들이 작성한 것이다. 이 ABA의 AI구매계약안은 AI 시스템을 구매하는 기업의 입장에서 AI구매와 관련한 법률적 이슈들이 무엇인지, 그리고 구매자의 입장에서 각 이슈를 어떻게 다룰 수 있는지에 대해 하나의 모델을 제시하였다고 할 수 있다. 이하에서 AI구매 또는 구독을 고려하고 있는 기업들을 위해 AI구매계약안의 주요 내용을 소개하기로 한다. 주요 조항 AI 시스템을 구매하는 기업은 먼저 몇 가지 중요 이슈를 명확히 이해하여야 한다. AI구매게약에서의; 핵심조항으로 데이터 소유권 조항, 데이터 보안 관련 규정, AI 제공자의 진술 및 보증, AI구매자에 대한 면책 의무와 AI 제공자의 책임에 관한 조항 등을 들 수 있다. 1. 데이터 소유권 조항: AI 시스템에 입력되거나 출력되는 데이터에 대한 소유권을 누가 갖는지에 관한 조항이다. AI구매자는 입력 및 출력 데이터에 대한 소유권을 확보하여 구매자가 이를 사용, 접근 및 통제할 수 있어야 한다. 2. 데이터 보안 조항: AI구매계약에서 데이터 보안은 매우 중요하다. AI제공자가 AI 시스템에 의해 처리되는 기업의 민감한 정보(개인 식별 정보 및 개인 정보 포함)를 외부의 무단 액세스, 사용, 공개, 또는 오용으로부터 보호할 정보보안조치를 취할 의무가 있다. 3. AI시스템 제공자의 진술 및 보증: 판매자의 진술 및 보증(representations and warranties)은 일반 매매계약에서 필수적으로 들어가는 조항이다. AI 시스템의 구매와 관련해서는 AI시스템의 기능, 성능, 정확성, 제3자 권리의 비침해, 법령 준수, 높은 윤리적 기준 준수 등에 관한 AI시스템 제공자의 진술 및 보증을 받아 두는 것이 중요하다. AI관련 위험과 법적 규제 환경이 불확정적인 상황에서는 AI제공자가 제공하는 진술 및 보증은 곧 AI제공자가 AI시스템의 위험에 따른 책임을 어느 범위까지 부담할 것인지를 정하는 것이다. 4. AI시스템 구매자를 면책시킬 의무: AI시스템의 구매자 혹은 사용자는 AI 시스템 사용과 관련하여 게3자로부터 저작권 침해 등 클레임을 제기 당하거나 법령위반 클레임을 당할 우려가 있다. 이런 경우 AI 시스템 제공자가 AI구매자 혹은 사용자를 면책(indemnity)시킬 의무를 진다. 5. AI시스템 제공자의 책임(Liability): AI시스템 제공자는 구매자 또는 사용자가 AI 시스템을 사용함에 따라 손해를 입는 경우 그 손해를 배상할 책임을 져야 한다. 문제는 AI 시스템 제공자도 예상하지 못한 AI 시스템 작동으로 인하여 손해가 발생한 경우에도 그 손해를 배상하여야 하는 가다. ABA의 AI구매계약안은 이런 경우에도 AI 시스템 제공자에게도 책임을 지우고 있다. 이하에서는 AI 구매계약안의 조항을 구체적으로 살펴본다 AI 시스템과 AI 서비스의 정의(Definitions) AI 구매계약안에서는 계약의 목적물을 “AI 시스템”이라 부른다. 흔히 AI를 단순히 ‘AI’라고만 하거나 ‘AI에이전트’(agent) 등으로 표현할 수도 있지만, 미국에서는 ‘AI시스템’이라는 용어가 계약이나 법에서 사용하는 법률적 용어로 자리잡아 가고 있다. “AI 시스템”이란 “콘텐츠를 생성하거나 결정, 권고 또는 예측을 하기 위해 유전 알고리즘(genetic algorithm), 신경망(neural network), 기계 학습(machine learning), 대형 언어 모델(LLM) 또는 기타 기술을 사용하여 자율적으로 데이터를 처리하는 AI제공자의 독점적 기술 시스템”으로 정의된다. 여기에는 모든 컴퓨터 소프트웨어(이에 대한 모든 수정, 업데이트 및 업그레이드 포함)뿐만 아니라, 물리적 하드웨어, 그리고 작업 주문서 또는 명세서에 추가로 설명될 수 있는 관련 사양, 문서 및 훈련 지침들도 포함된다.[3] 이와 같은 “AI시스템” 정의는 생성형 AI와 물리적 AI를 모두 포함할 수 있다고 해석되지만, 생성형 AI에 보다 평행되어 있는 것이 사실이다. 만약, ‘피지컬AI’가 구매 대상이 될 경우에는 그 피지컬 AI의 하드웨어적 특성을 기술하여 AI시스템의 정의를 보완하여야 할 것이다. 다음으로, “AI 서비스”(AI services)라는 용어가 중요하다. “AI서비스”는 AI시스템을 통해 제공되는 모든 서비스를 총칭하는 것으로, AI시스템과 구별된다.[4] 통상적으로 AI제공자는 AI구매자에게 AI시스템 그 자체를 양도하는 것이 아니라, AI시스템에 의해 제공되는AI 서비스를 사용할 수 있는 권리를 부여하는 것이다. 구매자의 권리의 범위 - AI 서비스 이용권 AI구매계약안은 AI제공자가 구매자에게 AI서비스에 접근하고 이를 용할 수 있는 전세계적인 비독점적 권리를 부여한다고 규정한다. 여기서 AI 서비스 이용권에 AI제공자의 애플리케이션 프로그래밍 인터페이스(이하 “API”)를 사용할 권리가 포함되는가? API 사용권이 당연히 포함되는 것은 아니며 그 포함 여부는 양 당사자가 합의로 결정할 문제이다. 만약 구매회사의 애플리케이션, 제품 및 서비스(이하 “구매자 애플리케이션”)에 AI 서비스를 통합시키고 최종 사용자들이 이를 이용할 수 있도록 하기 위하여 AI제공자의 API를 사용해야 한다면, AI구매계약에 API사용권을 명시적으로 포함해야 한다. 이 경우 구매자의 API 사용권의 구체적인 내용은 당사자들이 별도 체결한 API 라이선스 계약에서 정하게 된다.[5] AI제공자는 구매자에게 맞춘 ‘커스텀(custom)’ 입력물이나, 학습 데이터 또는 기타 알고리즘을 기반으로 구매자에게 AI 서비스를 제공하기로 합의할 수 있다. 이러한 구매자 맞춤형 AI서비스를 ‘구매자 맞춤 서비스’(Custom Service)’라 한다. 이러한 합의가 있는 경우 구매자는 계약기간 동안 ‘구매자 맞춤 서비스’에 독점적으로 접근하고 이용할 수 있는 권리를 취득하게 된다. 반대로, AI구매계약이 해지 또는 만료되면 AI 제공자는 구매자 맞춤 서비스에 포함된 맞춤형 입력물, 학습 데이터, 기타 알고리즘을 전부 삭제하도록 해야 하며, 어떠한 경우에도 AI제공자가 이러한 맞춤형 입력물, 학습 데이터, 기타 알고리즘을 대중용 AI 서비스나 제3자의 사적인 서비스에 사용하지 못한다는 점을 계약에 명시하여야 한다.[6] 데이터와 산출물에 대한 소유권 AI 구매회사와 그 구매회사의 최종 소비자는 AI 서비스를 이용하기 위해 자신 또는 제3자의 데이터(이하 “구매자 데이터”)를 입력하고 AI 서비스를 받는 것이 일반적이다. 이 경우 AI제공자와 구매자 사이에서는 ‘구매자 데이터’에 대한 지적재산권 등 일체의 권리는 구매자가 보유한다. 또한 AI서비스를 통해 생산되는 산출물에 대한 권리도 구매자 회사가 보유한다. 혹시 법률적으로 AI산출물에 대한 권리를 AI 제공자가 가지는 경우에도 AI제공자는 그러한 권리를 구매회사에 양도해야 한다. AI 제공자는 AI 구매회사에게 AI서비스를 제공하기 위해서, 혹은 관련 법률을 준수하기 위해 필요한 범위내에서만 ‘구매자 데이터’를 사용할 수 있다. AI구매계약안은 AI제공자는 구매자 데이터나 AI산출물을 자신의 AI서비스나, AI시스템 또는 다른 인공지능 시스템을 개발, 학습, 개량하기 위해 사용해서는 안된다고 명시하고 있다. 물론 구매자의 이익을 위해서 필요한 경우는 예외로 할 수 있다. 데이터 보안 AI제공자의 보안의무는 고객의 데이터에 적용될 뿐 아니라, AI제공자 자신의 AI시스템과 AI서비스에 대애서도 적용된다. AI제공자는 이러한 데이터와 AI시스템 및 AI서지스가 해킹이나 기타 불법적 손실 또는 유출되지 않도록 보호할 의무를 진다. 구체적으로, AI 제공자는 (a) AI시스템과 AI서비스, 구매자 맞춤 서비스(입력물, 훈련 데이터 기타 알고리즘 포함), 구매자 데이터 등(이하 포괄하여 “민감자산”)이 사고에 의하여 또는 불법적인 방법으로 손실이나 외부 접근에 노출되거나, 유출되지 않도록 해야 하고, (b) 상기 민감 자산의 안전과 관련하여 합리적으로 예상 가능한 위험을 식별하여야 하며, (c) 정기적인 위험평가와 시험을 통해 민감자산에 대한 안전 위험을 최소화할 의무를 진다. AI제공자는 이를 위해 적절한 정보 보안 프로그램(내부 정책과 절차 포함)을 채택하고 제반 기술적, 조직적, 물리적 조치(이하 “정보보안조치”)를 취하여야 한다. 나아가 업계의 최선의 관행과 관련 법률 등에 따라서 민감자산의 안전과 적정 작동에 필요한 AI시스템과 AI서비스 업그레이드를 할 의무도 진다. AI제공자의 ‘정보보안조치’에는 구체적으로 다음과 같은 조치들이 포함된다: (a) 전자적, 네트워크적 및 물리적 모니터링과, 데이터의 저장, 이전 및 접근에 관한 보안 정책 시행, (b) 가상사설통신망(VPN)과 관련한 생산 인프라(사용자 계정과 패스워드 통제체계) 설치, (c) 직원 및 하도급자에 대한 다단계 인증(multifactor authentication) 설치, (d) 네트워크 보안, 방화벽, 계정 및 리소스에 대한 최소 접근권한(least-privilege access) 부여, (e) 로깅 및 사고 대응 프로세스 유지, (f) 잠재적 보안 위협에 대응하는 복구 조치 계획(corrective action plan), (g) ‘정보보안조치’가 업계 최선의 관행에 부합하고 관련 법률을 준수하도록 정기적인 검사 수행. 한편, 구매자 회사의 데이터에 대한 보안의무는 특별히 강화할 필요가 있다. 이를 위하여 당사자들은 일반적 정보보안조치에 추가하여, 별도의 데이터 보호 약정(Data Protection Addendum)을 체결할 수 있다. 이 ‘구매자 데이터 약정’은 AI구매계약의 일반 정보 보안 규정에 우선하여 적용된다. 만약 구매자 회사가 AI서비스와 AI시스템을 사용하면서 구매자 데이터에 포함된 개인정보(personal information)를 처리하게 되는 경우에 상기 보안 규정들이 적용된다. AI 제공자의 진술 및 보증 AI구매계약안에서는AI제공자가 구매자에게 다음과 같은 사항들을 진술하고 보증하도록 규정하고 있다. (a) AI제공자가 구매자에게 제공된 문서(documentation) 및 상호 합의한 기타 요건에 따라 AI 서비스 및 AI 시스템을 제공한다는 점 (b) AI 서비스 및 AI 시스템의 개발과 제공에 관련된 모든 관련 법률(데이터 보호법 등)을 준수한다는 점 (c) AI제공자가 사용하는 AI 시스템이 목적에 적합하고, 만족스러운 품질이며, 하자가 없다는 점, 그리고 AI시스템이 합리적인 주의와 기술을 가지고 업계 최선의 관행에 따라 모든 요건을 준수하여 시공사가 이를 개발되었다는 점 (d) AI 서비스(‘구매자 맞춤 서비스’ 포함), AI 시스템, AI 시스템을 훈련시키기 위해 사용되는 훈련 데이터 및 훈련 지침 등의 제공과 사용에 필요한 모든 허가 및 라이선스, 그리고 구매자 회사의 데이터가 아닌 제3자 데이터의 입력물(input)의 제공과 사용에 필요한 모든 허가 및 라이선스를 AI제공자가 취득하였다는 점. (e) AI서비스를 통해 생산되는 산출물(output)과 관련하여 필요한 모든 권리, 라이선스 및 허가를 취득하였고, 산출물에 대한 권리(지식재산권 포함)를 구매자 회사에게 제공한다는 점. (f) AI거버넌스 자율단체에서 제정한, AI서비스와 AI시스템에 적용되는 모든 규칙을 준수한다는 점. (g) AI제공자가 제공하는 AI서비스는 최고 수준의 윤리 원칙에 따라서 개발되었고, AI 시스템이나 AI 서비스는 편향된 산출물을 생산하지 않고 어떤 피해도 발생시키지 않는다는 점. (h) AI 시스템 또는 AI 서비스에 사용되는 모든 입력물과 훈련 데이터, 기타 알고리즘은 정확하고(accurate) 완전하며(complete) 진실에 부합한다는(truthful) 점. (i) AI 시스템과 AI 서비스가 제3자의 지적재산권을 침해하지 않는다는 점. (j) AI 시스템, AI 서비스 또는 산출물에는 바이러스나 장애발생 코드(disabling code), 악성 소프트웨어가 포함되어 있지 않으며, 구매자가 이를 사용하더라도 구매자 회사의 데이터나 시스템, 하드웨어, 기록, 프로그램 또는 기타 재산에 손실 또는 손상이 발생하지 않는다는 점. 구매자 면책(Indemnity)과 구매자에 대한 책임(Liability) AI구매계악안에서는 두가지 경우에 대해 AI제공자가 구매자를 면책하여야 하는 규정을 두고 있다: 즉 (a) 구매자가 제공받은 AI서비스나 AI시스템 혹은 입력물이나 훈련 데이터, 산출물이 제3자의 권리를 침해한다는 클레임(Infringement claim)이 제기되는 경우 또는 (b) AI제공자나 그 종업원, 대리인, 하수급인 등이 관련 법률을 위반하거나 계약조항을 위반하는 경우가 그것이다. 이러한 경우 AI 제공자는 구매자 측이 당하는 모든 소송을 자신의 비용으로 방어하고, 구매자가 부담하는 모든 손해와 비용을 보상하여야 한다. AI제공자는 제3자 권리 침해나 법률 위반 등을 시정하는 조치를 취하는 방법으로 면책의무를 이행할 수도 있다. 한편, AI 제공자의 책임(Liability)은 구매자 회사가 AI제공자가 제공한 AI서비스를 정상적으로 사용하였음에도 불구하고 어떤 손해나 손실이 발생한 경우, AI제공자가 구매자의 손해나 손실을 배상하여야 한다는 규정이다. AI구매계약안에서는AI시스템의 알고리즘이 ‘예측할 수 없는 행동’(unpredictable behavior)을 하여 손해가 발생한 경우에도 AI 제공자는 구매자에게 그 손해를 배상하도록 규정하고 있다. 사이버 책임보험(Cyber-liability Insurance) AI구매계약안은 사이버 책임보험에 대해서 언급하고 있다. 즉, AI제공자는 자신의 비용으로, 발생 건당 500만 달러 및 연간 합계 천만 달러($10,000,000) 이상 한도의 사이버 책임보험 증권을 취득하고 계약 기간 동안 유효하게 유지하여야 하며, 해당 보험 증권에 구매자 회사 및 그 계열사들을 추가 피보험자로 포함시켜야 한다고 규정하고 있다. 우리나라의 경우 이러한 보험이 가능한지는 확인할 필요가 있다. 계약 해지의 효과 AI구매계약이 어떤 이유로든 해지 또는 종료되는 경우 그 효과는 어떻게 될까? AI구매계약에서는 이 경우 AI구매회사는 즉시 AI서비스와 AI시스템 사용을 중지하여야 하는 반면, AI제공자는 자신과 그 직원, 대리인 및 하수급인이 보유하고 있는 구매자 회사의 데이터나 산출물, 그리고 구매자 맞춤 서비스 자료를 구매자에게 반환하여야 하며, 구매자의 요청이 있을 때에는 이를 회복불능 상태로 삭제 및 파기하도록 규정하고 있다. AI구매계약은 AI의 실제 사용사례와 사고 또는 위험 발생사례가 축적되고 관련 소송이 쌓이면서 더욱 정치하게 정리되어 나갈 것이다. AI산업계와 법률계가 긴밀히 소통하고 협업하여 합리적인 AI구매·사용계약 모델을 발전시켜 나가야 할 것이다. Endnotes[ 1 ] 2024. 12. 26.자 매일경제 A14면, “韓, LLM 출혈 대신 ‘돈 되는 서비스’ 경쟁해야” 참조.[ 2 ] 2024. 12. 26.자 매일경제A4면, “빅테크 新전쟁터 ‘AI로봇’, 민첩하게 캐치볼하고 사람대신 車부품 조립” 참조.[ 3 ] “AI System” means the Contractor’s proprietary technological system that, autonomously or partly autonomously, processes data through the use of a genetic algorithm, a neural network, machine learning, large language models, or other techniques in order to generate content or make decisions, recommendations, or predictions—including all computer software (and all modifications, updates, and upgrades thereto); physical hardware; and associated specifications.[ 4 ] AI Services” means the services to be provided through the AI System pursuant to the Agreement. [ 5 ] The Contractor grants to Company a worldwide, nonexclusive right to access and use the AI Services during the Term. This includes the right, if agreed to by the parties, to use the Contractor’s application programming interface (“API”) to integrate the AI Services into Company’s applications, products, and services (each a “Company Application”) and to make Company Applications available to end users, in each case in accordance with the terms and conditions of an API license agreement mutually executed by the parties. [ 6 ] If the parties agree in an Order or Statement of Work that the Contractor will provide AI Services to Company with custom Inputs, Training Data, or other algorithms (whether or not trained using Company Data (a “Custom Service”)), then the Contractor grants to Company an exclusive right to access and use the Custom Service during the Term, and upon the termination or expiration of the Agreement for any reason, the Contractor shall delete the custom Inputs, Training Data, and other algorithms that are part of the Custom Service. Under no circumstances shall the Contractor have the right to use any custom Inputs, Training Data, or other algorithms that are part of a Custom Service within any public-facing AI Services or any private third-party instances of the AI Services.
과정 소개
