세계는 현재 인공지능 저작권 전쟁 중 - 당신의 인공지능, 저작권은 안녕하십니까? 3편
이젠 카메라로 찍은 사진도 예술작품이라고 하는데 AI로 만든 그림은 예술작품이라고 할 수 있을까? 나라마다 다른 인공지능 저작권 정책, 우리나라는 어떻게 대처하고 있는지를 함께 알아봅니다.
Feb 27, 2024
Contents
1. 인공지능 저작권에 대한 주요 논쟁 포인트2. 미국: 지상 최대의 인공지능 저작권 격전지미국 저작권청(USCO), 인공지능 지식재산권 쟁점에 관한 공개의견 수집지금의 저작권법으로도 충분하다는 OpenAI의 의견백악관, AI기업과 안전하고 투명한 AI 개발을 위한 안전 서약 합의3. 유럽: 일단 개인정보보호 이슈부터이탈리아 데이터 보호당국(DPA), OpenAI의 ChatGPT 개인정보보호 규정 위반 지적유럽 의회, 인공지능법에 대한 잠정 합의 도달4. 일본: 인공지능에게는 관대하게, 창작자에게는 보상을!일본 문화청, 인공지능과 저작권에 관한 고찰에 대한 공개의견 모집5. 중국: 인공지능 생성물에 대한 저작권 보호를 인정한 혁신적 판결6. 우리나라는?📖 “생성형 AI 저작권 안내서”초거대AI추진협의회, 안내서에서 특정 문구 삭제를 권고6. 맺음말※ 본 블로그 포스팅 시리즈 “당신의 인공지능, 저작권은 안녕하십니까?”는 LangCon 2024에 발표될 내용과 관련된 주제를 다룹니다.
CONTENTS
1. 인공지능 저작권에 대한 주요 논쟁 포인트논쟁1: 생성형 인공지능의 생성 능력은 Reproductive인가? Transformative인가?논쟁2: 사진 촬영은 예술활동? 프롬프팅도 예술활동?논쟁3: 보상 문제2. 미국: 지상 최대의 인공지능 저작권 격전지미국 저작권청(USCO), 인공지능 지식재산권 쟁점에 관한 공개의견 수집지금의 저작권법으로도 충분하다는 OpenAI의 의견백악관, AI기업과 안전하고 투명한 AI 개발을 위한 안전 서약 합의3. 유럽: 일단 개인정보보호 이슈부터이탈리아 데이터 보호당국(DPA), OpenAI의 ChatGPT 개인정보보호 규정 위반 지적유럽 의회, 인공지능법에 대한 잠정 합의 도달4. 일본: 인공지능에게는 관대하게, 창작자에게는 보상을!일본 문화청, 인공지능과 저작권에 관한 고찰에 대한 공개의견 모집5. 중국: 인공지능 생성물에 대한 저작권 보호를 인정한 혁신적 판결6. 우리나라는?📖 “생성형 AI 저작권 안내서”초거대AI추진협의회, 안내서에서 특정 문구 삭제를 권고6. 맺음말
1. 인공지능 저작권에 대한 주요 논쟁 포인트
세계는 현재 '인공지능 저작권 전쟁'의 한가운데에 있습니다. 이 전쟁의 전장은 창작의 영역, 그중에서도 저작권이라는 법적 보호막 안에서 벌어지고 있습니다. 저작권이란 창작자가 자신의 창작물에 대해 가지는 배타적인 권리를 의미합니다. 이 권리는 창작자의 인격과 노력을 인정하고 보호하기 위해 존재합니다. 그러나 ChatGPT와 함께 생성형 인공지능 기술이 급격히 발전하면서, 저작권에 관한 기존의 법으로는 새로운 변화에 대한 요구를 따라가기 어렵게 됐습니다.
특히, 인공지능에 의해 생성된 작품들이 저작권법의 보호를 받을 수 있는지 여부가 중요한 논쟁거리로 떠올랐습니다. 현행 저작권법은 창작물의 주체를 '인간'으로 한정하고 있으나, 인공지능이 '창작자'의 역할을 할 수 있는 시대가 도래함에 따라 법의 개정을 요구하는 목소리가 높아지고 있습니다.
이 논쟁은 크게 두 가지 주요 포인트에서 활발히 진행되고 있습니다. 첫째, 인공지능이 학습 과정에서 접근하는 데이터가 저작권법상의 '복제'에 해당하는지와 이를 '공정 이용(fair use)'으로 볼 수 있는지의 문제입니다. 둘째, 인공지능에 의해 생성된 결과물이 '파생 저작물'로 볼 수 있으며, 이를 창작 과정에 기여한 인간의 '프롬프팅' 작업의 결과로 볼 것인지에 대한 논의입니다.
프롬프팅 (Prompting) 생성형 인공지능으로부터 원하는 결과물을 얻기 위해 입력하는 텍스트 혹은 데이터를 만드는 작업을 일컬음
이러한 배경 속에서 생산자는 자신의 창작물이 적절히 보호받기를 원하며, 사용자는 새로운 기술을 자유롭게 탐색하고 활용하길 원합니다. '인공지능 저작권 전쟁'은 기술과 법, 창작과 복제 사이의 경계를 구분하기 위한 첨예한 대립이며 이 대립의 끝은 어떻게 될지 많은 이들이 궁금해하고 있습니다.
이 전쟁은 현재 진행 중이며 지금 이 순간에도 계속해서 논의가 이루어지고 있는 만큼 계속해서 내용은 변화해야 할 터이지만 필자는 우선 지금 현재 전 세계적으로 일어나는 이 이슈에 대해서 한 번 정리해 보려고 합니다.
논쟁1: 생성형 인공지능의 생성 능력은 Reproductive인가? Transformative인가?
생성형 인공지능 그 중에서도 LLM과 관련된 가장 큰 법적 분쟁의 원인으로 지목되는 것은 인공지능이 학습할 때 콘텐츠를 복제(reproduction)하는 방식으로 학습을 하고 결과적으로도 모델이 기억에 따라 결과를 뱉어낸다는 주장입니다. 그 반박으로 대개 인공지능 모델은 기억하는 방식이 아닌 변형(transformative)시키는 방식으로 학습하기 때문에 복제가 아니라고 합니다.
특히나 인공지능 학습 데이터의 저작권 침해와도 관련이 깊은 이 논쟁에 대해서는 다음 포스팅에서 조금 더 자세하게 다루겠습니다.
논쟁2: 사진 촬영은 예술활동? 프롬프팅도 예술활동?
디지털 시대가 도래하며 예술의 경계는 끊임없이 확장되고 있는 것 같습니다. 한때 사진 촬영은 단순한 기록의 도구로 여겨졌지만, 이제는 사진 자체가 예술 작품으로 인정받으며, 카메라는 예술가의 붓과 같은 역할을 하게 되었습니다. 사진 작가는 카메라를 통해 자신의 시각적 이야기(Visual story)를 풀어내고, 사진 촬영은 창의적인 표현을 담는 예술의 한 형태로 자리 잡았습니다.
필자는 이와 유사하게, 인공지능(AI)과 프롬프팅(prompting)을 카메라와 촬영으로 대입해서 생각해 볼 수 있지 않을까 하는 생각을 가져봤습니다. AI가 생성한 그림이나 글은 프로그래밍된 알고리즘과 데이터를 기반으로 하지만, 이 과정에서 인간의 창의적인 노력이 큰 역할을 합니다. 예를 들어, AI를 이용해 그림을 그리거나 글을 작성할 때, 인간은 특정 프롬프트를 제공하고 AI의 생성 방향을 조정하기 위한 다양한 작업을 반복적으로 하면서 원하는 결과를 유도해나갑니다.
논쟁3: 보상 문제
어떤 이들은 인공지능 학습에 사용되는 데이터에 대해서 창작자에게 적절한 보상이 주어진다면 그리고 그러한 보상 체계가 생태계적으로 조성이 된다면 저작권 이슈에 대해 좀 더 관대한 입장을 취해도 되지 않겠냐고 말합니다. 이는 New York Times가 OpenAI를 상대로 한 소송 내용을 다룰 때에도 언급했던 내용으로 창작자가 꾸준하게 콘텐츠를 생성할 수 있도록 인공지능 학습에 창작물을 사용하는 AI 사업자들이 보상을 해야 한다는 것과 관련이 있습니다.
그리고 만약 프롬프팅을 창작 활동으로 인정하게 되면, 생성형 인공지능으로 만든 생성 결과물도 창작물로서 그리고 사진 촬영에서 그러했듯이 저작권법으로 그 권리를 보호해야 하게됩니다. 이는 이후에 인공지능 생성 결과물을 사용하는 것에 대해서도 적절한 비용을 지불해야 할 수도 있음을 의미합니다.
2. 미국: 지상 최대의 인공지능 저작권 격전지
미국 저작권청(USCO), 인공지능 지식재산권 쟁점에 관한 공개의견 수집
Intelligent.com에 따르면 3명 중 1명의 미국 대학생들은 AI를 활용한 과제를 위해 ChatGPT를 적극적으로 사용하고 있다고 합니다. [link] 필자의 지인 중에 미국에서 대학생들을 가르치고 있는 교수가 있는데 ChatGPT의 사용이 무분별하게 이루어지고 있는 것 같다는 이야기를 했습니다. 에세이 과제를 내면 AI가 작성한 것과 사람이 작성한 것을 구분하기가 어려울 뿐더러 과제를 통한 학습의 성취도를 높이려던 원래의 취지도 사라지게 되어 여러가지 고심을 하고 있다고 했습니다.
대학생들의 이야기를 넘어서 수백만 명의 미국인들이 생성형 AI 시스템과 서비스를 다양한 산업과 현장에서 적극 사용하고 있고 ‘AI로 생성된 결과물’의 활용이 곳곳에서 드러나고 있습니다. 이에 대한 별다른 규제나 가이드라인이 없이 무분별하게 사용되면 저작권 침해와 같은 법적 문제가 발생할 가능성이 높아진다는 의견이 미국에서도 공론화되었습니다.
미국 저작권청(USCO)은 2023년 8월 30일 인공지능으로 발생하는 지식재산권 문제를 조사하고 이에 대한 적절한 규제 정책 혹은 가이드라인을 마련하기 위해 AI 사업자, 창작자 및 학계 등 전반에 객관적인 의견을 받기 위해 공개의견을 수집하겠다고 연방관보를 통해 발표하였습니다. [link1, link2, link3]
Artificial Intelligence and Copyright Notice of inquiry and request for comments.SUMMARY: The United States Copyright Office is undertaking a study of the copyright law and policy issues raised by artificial intelligence (‘‘AI’’) systems. To inform the Office’s study and help assess whether legislative or regulatory steps in this area are warranted, the Office seeks comment on these issues, including those involved in the use of copyrighted works to train AI models, the appropriate levels of transparency and disclosure with respect to the use of copyrighted works, and the legal status of AI-generated outputs. -- from Federal Register
이번 공개의견은 수집한 의견과 관련 데이터를 미국 의회에 제공하고 AI와 관련된 저작권 문제에 대한 대책을 마련하고자 하는 대중들과 법원 및 기타 정부기관에도 필요한 정보를 제공하기 위한 목적으로 시작되었습니다.
공개의견의 주제는 크게 4가지로 다음과 같습니다. [출처: 한국지식재산연구원]
구분 | 주제 |
1 | AI 모델 학습을 위한 저작물(Copyrighted Works)의 사용 |
2 | 저작물 사용과 관련한 적절한 수준의 투명성 확보 및 공개 |
3 | AI로 생성된 결과물(AI-generated Outputs)의 법적 지위 |
4 | 인간 아티스트의 스타일을 모방한 AI 생성 결과물의 적절한 처리 |
미국 저작권청(USCO)이 '인공지능(AI)과 저작권에 관한 조사'를 위한 의견 수렴 기간을 2023년 12월 6일까지 연장했습니다. 이는 AI 기술의 급속한 발전과 그에 따른 저작권 문제의 복잡성을 고려한 조치로, 다양한 이해관계자의 의견을 충분히 수렴하기 위한 목적에서 비롯된 것으로 보입니다. 연장된 기간까지 약 1만 여건의 의견이 수집되었습니다. 아래는 공개 의견을 구하기 위한 질문으로 각 항목들이 꽤나 자세하게 작성되어 있어 향후 한국의 저작권 정책을 수립하는 과정에도 좋은 참고가 될것으로 생각됩니다.
![notion image](https://inblog.ai/_next/image?url=https%3A%2F%2Fwww.notion.so%2Fimage%2Fhttps%253A%252F%252Fprod-files-secure.s3.us-west-2.amazonaws.com%252F917763ed-d8af-4899-85b1-5b4c97f20e36%252Fb2cf01b4-122f-4fc9-82b2-e2de39e16546%252F%2525E1%252584%252589%2525E1%252585%2525B3%2525E1%252584%25258F%2525E1%252585%2525B3%2525E1%252584%252585%2525E1%252585%2525B5%2525E1%252586%2525AB%2525E1%252584%252589%2525E1%252585%2525A3%2525E1%252586%2525BA_2024-02-15_%2525E1%252584%25258B%2525E1%252585%2525A9%2525E1%252584%25258C%2525E1%252585%2525A5%2525E1%252586%2525AB_11.30.20.png%3Ftable%3Dblock%26id%3D25ff025a-01df-450d-813e-164665077776%26cache%3Dv2&w=3840&q=75)
![notion image](https://inblog.ai/_next/image?url=https%3A%2F%2Fwww.notion.so%2Fimage%2Fhttps%253A%252F%252Fprod-files-secure.s3.us-west-2.amazonaws.com%252F917763ed-d8af-4899-85b1-5b4c97f20e36%252F359a384e-8cfc-4896-a0bd-5cb1e4d3e3cd%252F%2525E1%252584%252589%2525E1%252585%2525B3%2525E1%252584%25258F%2525E1%252585%2525B3%2525E1%252584%252585%2525E1%252585%2525B5%2525E1%252586%2525AB%2525E1%252584%252589%2525E1%252585%2525A3%2525E1%252586%2525BA_2024-02-15_%2525E1%252584%25258B%2525E1%252585%2525A9%2525E1%252584%25258C%2525E1%252585%2525A5%2525E1%252586%2525AB_11.30.39.png%3Ftable%3Dblock%26id%3D724b1c44-0213-4eb7-b024-a717c9eb5eca%26cache%3Dv2&w=3840&q=75)
![notion image](https://inblog.ai/_next/image?url=https%3A%2F%2Fwww.notion.so%2Fimage%2Fhttps%253A%252F%252Fprod-files-secure.s3.us-west-2.amazonaws.com%252F917763ed-d8af-4899-85b1-5b4c97f20e36%252F3cb03838-1271-4868-b58a-89a620ebeabc%252F%2525E1%252584%252589%2525E1%252585%2525B3%2525E1%252584%25258F%2525E1%252585%2525B3%2525E1%252584%252585%2525E1%252585%2525B5%2525E1%252586%2525AB%2525E1%252584%252589%2525E1%252585%2525A3%2525E1%252586%2525BA_2024-02-15_%2525E1%252584%25258B%2525E1%252585%2525A9%2525E1%252584%25258C%2525E1%252585%2525A5%2525E1%252586%2525AB_11.30.49.png%3Ftable%3Dblock%26id%3D3849d951-fc28-475c-881e-a263cb2c7cff%26cache%3Dv2&w=3840&q=75)
인공지능 모델 학습을 위한 데이터의 수집 혹은 선별 방식이나 학습 이후에 데이터를 어떻게 처리하는지 등에 대한 기본적인 질문들도 있습니다. 그리고 현재에는 접근 불가능한 데이터에 대해서 만약 인공지능 모델이 해당 데이터를 학습에 활용했었다면 이를 밝힐 수 있는 기술적인 방법이 있는지에 대한 깊이 있는 질문들도 있습니다. 답변을 작성하는 이의 배경과 지식 수준에 따라서 다양한 형태의 답변이 나올 수 있어 공개의견의 수렴한 결과가 어떻게 정리되어 나올지 궁금합니다.
지금의 저작권법으로도 충분하다는 OpenAI의 의견
미국 저작권청의 공개의견 요청에 대해 OpenAI는 10월 30일 의견을 제출했는데, [link] 이것만으로는 불충분하다고 생각했는지 제출 기한이 연장된 이후에 답변을 다시 작성하여 12월 6일에 추가로 제출했습니다. [link] 추가 답변에서는 Generative AI 모델의 학습 방식에 대한 자세한 과정을 풀어서 설명하고 있습니다.
![notion image](https://inblog.ai/_next/image?url=https%3A%2F%2Fwww.notion.so%2Fimage%2Fhttps%253A%252F%252Fprod-files-secure.s3.us-west-2.amazonaws.com%252F917763ed-d8af-4899-85b1-5b4c97f20e36%252F15ab09ac-02d8-4900-b1aa-016cc55e0f37%252F%2525E1%252584%252589%2525E1%252585%2525B3%2525E1%252584%25258F%2525E1%252585%2525B3%2525E1%252584%252585%2525E1%252585%2525B5%2525E1%252586%2525AB%2525E1%252584%252589%2525E1%252585%2525A3%2525E1%252586%2525BA_2024-02-15_%2525E1%252584%25258B%2525E1%252585%2525A9%2525E1%252584%252592%2525E1%252585%2525AE_12.09.20.png%3Ftable%3Dblock%26id%3D8492f822-068b-4008-81cd-d98413fc65a1%26cache%3Dv2&w=3840&q=75)
OpenAI가 미국 저작권청의 NOI에 제출한 의견에서는 딥러닝 기술과 . 그핵심 구성 요소인 모델의 ‘weight’에 대해 소개하며, 이를 transformative use의 핵심으로 보고 학습 데이터가 단순한 memorization이나 repetition이 아님을 강조했습니다. OpenAI는
memorization of training data is exceptionally rare
라는 표현을 사용하여 생성형 인공지능이 데이터를 기억한다는 우려가 실제로는 거의 발생할 수 없는 것임을 언급했습니다. 또한, 저작권 침해 가능성을 최소화하고자 다양한 실험을 수행하고 있으며 적절한 장치를 개발하여 적용했다고 밝혔습니다. ![OpenAI가 제시한 저작권 침해 가능성을 최소화하고자 마련한 장치에 대한 방법 예시](https://inblog.ai/_next/image?url=https%3A%2F%2Fwww.notion.so%2Fimage%2Fhttps%253A%252F%252Fprod-files-secure.s3.us-west-2.amazonaws.com%252F917763ed-d8af-4899-85b1-5b4c97f20e36%252F54fe1175-cbdf-4198-bddb-2b19c270be0d%252F%2525E1%252584%252589%2525E1%252585%2525B3%2525E1%252584%25258F%2525E1%252585%2525B3%2525E1%252584%252585%2525E1%252585%2525B5%2525E1%252586%2525AB%2525E1%252584%252589%2525E1%252585%2525A3%2525E1%252586%2525BA_2024-02-15_%2525E1%252584%25258B%2525E1%252585%2525A9%2525E1%252584%252592%2525E1%252585%2525AE_12.10.13.png%3Ftable%3Dblock%26id%3D70a38aed-36fe-413d-a516-39d317ab4943%26cache%3Dv2&w=3840&q=75)
추가적으로 GPT 계열 모델의 핵심인 Next-word prediction과 인공지능 모델의 사전학습 메커니즘에 대해 설명하면서, 이러한 기술적 배경이 어떻게 AI 생성 콘텐츠의 창의성과 독창성을 가능하게 하는지를 설명했습니다. OpenAI는 기술자가 아닌 이들도 이해할 수 있도록 tokenization과 training 데이터셋에 대한 개념적 이해를 돕기 위한 추가적인 정보도 제공했습니다. 인공지능 모델 학습과 관련해 세부적인 내용이 좀 더 궁금하신 분들을 위해 이와 관련해서 다른 포스트를 통해 추가로 다루어보겠습니다.
흥미롭게도, OpenAI는 공식적인 post-training 방법과 prompt 및 output을 필터링할 수 있는 기술, 그리고 별도의 finetuning 모델 개발에 대해서도 언급했습니다. AI 생성 콘텐츠가 AI에 의해 만들어졌는지를 판단하거나, 데이터 활용을 위한 opt-out 방식의 워터마킹 기술 등에 대한 연구가 아직 충분하지 않다는 점을 생각해보면 그 귀추가 주목됩니다.
OpenAI의 의견에 대한 내용을 정리하자면, OpenAI의 핵심 주장은 현재의 저작권법이 AI 분야의 혁신을 적절히 지원하고 있으며, 추가적인 규제가 도입될 경우 이러한 혁신을 저해할 수 있다는 것입니다.
이외에도 현재 AI와 저작권에 관련된 법적 소송에 휘말린 기업들, 예를 들어 New York Times, Microsoft, Google 등은 이 쟁점에 대해 서로 다른 입장을 가지고 있으며, 저작권 침해를 하지 않는다는 주장과 적절한 규제가 필요하다는 주장 사이의 양극단의 의견으로 나뉘어져 있습니다. 이러한 양극단의 의견 사이에서 다양한 개인 및 익명의 의견들도 포함되어 있으며, 이는 다양한 rightholders들의 깊이 있고 흥미로운 관점을 제공해 관련된 업무를 하는 분들이라면 한 번씩 참고해보면 좋을 것 같습니다.
백악관, AI기업과 안전하고 투명한 AI 개발을 위한 안전 서약 합의
백악관이 AI의 안전하고 투명한 개발을 위해 미국 내 주요 AI 기업들과 함께 'AI 안전 서약'에 대한 중요한 합의에 도달했습니다. 2023년 7월 21일, Amazon, Anthropic, Google, Inflection, Meta, Microsoft, OpenAI 등 7개의 AI 기업이 이 서약에 참여했으며, 이후 9월 12일에는 Adobe, Cohere, IBM, Nvidia, Palantir, Salesforce, Scale AI, Stability 등 8개 기업이 추가로 논의에 참여했습니다. [link]
핵심원칙 | 서약 내용 |
안전 | 기업은 제품 출시 전 외부 전문가 등을 통해 AI 시스템에 대한 내외부 보안 테스트 수행를 수행해야 함. 주요 AI 위험요소에 대비하기 위함이며 위험 관리에 관한 Best practices와 기술 협력 등을 포함하여 업계 전반과 정부와 사회, 학계에 공유해야 함 |
보안 | AI 시스템 취약점에 대한 보고 체계를 마련하고 취약점 발견 시 신속하게 대응할 수 있는 대비책을 마련해야 함. 사이버 보안 및 내부 위협 등으로부터 보호하기 위해 독점 및 미공개 AI 모델 weight를 보호해야 함. 보안 위험 가능성을 고려할 때 의도된 경우에만 모델 가중치를 공개한다는 것에 동의해야 함. |
신뢰 | 워터마킹(watermarking) 기술을 개발하여 사용자에게 콘텐츠가 AI로 생성된 경우 알 수 있도록 해야 함. 그리고 AI 시스템의 기능, 한계, 적절 혹은 부적절한 사용 영에 대해서 공개적으로 보고해야 함. 부정적인 편견(bias)과 차별(discrimination)을 방지하고 개인 프라이버시(privacy) 보호를 위해 AI 시스템이 초래할 수 있는 사회적 위험에 대한 연구를 우선적으로 진행해야 함. |
이러한 움직임은 AI 기술의 급속한 발전과 그에 따른 사회적, 윤리적 책임의 중요성이 대두됨에 따라 이루어졌습니다. 백악관은 2023년 10월 30일 '인공지능의 안전하고, 안정적이며, 신뢰할 수 있는 개발 및 사용에 관한 행정명령(Executive Order on the Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence)'을 발표하여 이 서약의 구체적인 내용과 방향을 제시했습니다.
3. 유럽: 일단 개인정보보호 이슈부터
유럽연합(EU)은 개인정보보호에 대한 접근 방식을 통해 세계에 큰 영향을 미치고 있습니다. 특히 EU의 일반개인정보보호법(GDPR)은 정보주체의 사전 동의를 매우 중요하게 여깁니다. GDPR은 정보주체에게 충분한 정보를 제공하고 명시적인 동의를 얻는 '옵트인(Opt-In)' 제도를 채택하고 있어, 개인정보 활용에 있어 엄격한 규제를 적용하고 있습니다.
EU 일반개인정보보호법(GDPR, General Data Protection Regulation)은 EU 회원국에 일괄적으로 적용되는 개인정보 보호법으로 정보주체의 권리와 기업의 책임성 강화 등을 주요내용으로 함 (출처: 개인정보보호 국제협력센터)
이와 대조적으로 미국은 개인정보보호에 있어 소비자 보호의 관점에서 접근하며, 개인정보를 먼저 활용한 후에 사후에 동의를 받거나, 이의 제기 시 사후 철회를 허용하는 '옵트아웃(Opt-Out)' 제도를 채택하고 있습니다. 이러한 차이는 미국의 AI 기업들이 저작권에도 옵트아웃 개념을 적용해야 한다는 의견을 제시하는 기반이 되었습니다.
EU의 보수적인 개인정보보호 접근 방식은 생성형 AI 기술과 관련된 저작권 이슈에 있어서도 미국과는 다른 양상을 보이고 있습니다. EU는 개인정보보호를 기술 발전의 사전 조건으로 보고 있으며, 이는 생성형 AI 저작권 논의에 있어 중요한 고려 사항이 되고 있습니다.
이탈리아 데이터 보호당국(DPA), OpenAI의 ChatGPT 개인정보보호 규정 위반 지적
로이터의 보도에 따르면, 2024년 1월 29일 이탈리아의 데이터 보호당국(DPA)이 OpenAI의 ChatGPT에 대해 EU의 개인정보 보호규정을 위반했다는 예비 결론을 내렸다고 합니다. [link] 이는 OpenAI가 훈련용으로 개인 데이터를 대량 수집하고 저장하는 데 정당성이 없다는 이유로 ChatGPT 저속을 차단했었던 2023년 3월 이후 10개월 만에 이루어진 조치입니다. [link] OpenAI는 이에 대한 반론을 30일 내에 제출해야 하는 상황에 놓였습니다.
EU의 GDPR 규정은 정보주체의 명시적인 동의를 요구하는 '옵트인' 제도를 채택하고 있으며, 이에 따라 OpenAI는 챗GPT 구축을 위해 수집하고 처리한 웹 사용자의 동의를 얻어야 합니다. 이는 챗GPT와 같은 대규모 AI 모델의 경우 사실상 불가능에 가까운 요구사항일 수 있으며, 이를 수용한다 하더라도 기존 모델을 철회하거나 파괴한 후 동의를 받은 데이터만으로 새로운 모델을 훈련해야 할 가능성도 있습니다.
OpenAI는 모델 학습에 사용한 데이터에 대한 자세한 정보를 보고해야 하는 등 영업 비밀에 관한 부분을 노출시킬 위험이 있으며, 저작권 소송의 불씨를 제공하여 곤란한 상황을 맞이하게 될 것입니다. 이번 결정은 앞으로의 EU 가입국들에게 중요한 이정표가 될 것으로 보이며, EU의 저작권법 준수와 관련된 정책 방향 및 법적 소송에 큰 영향을 미칠 것으로 예상됩니다.
유럽 의회, 인공지능법에 대한 잠정 합의 도달
2023년 12월 19일, 유럽 의회가 인공지능법(AI Act)에 대한 잠정 합의에 도달했다고 합니다. 이는 유럽 내에서 생성형 인공지능 저작권 이슈와 관련된 또 다른 중요한 이정표입니다. 이번 합의는 기본권, 민주주의, 법치, 그리고 환경적 지속가능성을 고위험 인공지능인 프론티어 AI*로부터 보호하는 것을 목표로 하고 있습니다. 이는 유럽을 인공지능 분야의 리더로 만들면서 혁신을 촉진하려는 의도를 담고 있습니다. [link1, link2]
프론티어 AI (Frontier AI) 성능이 너무 뛰어나 공공 안전에 위협을 초래할 수 있는 인공지능을 일컬을 때 사용하는 단어
이 합의는 인공지능 시스템의 광범위한 작업 수행 능력과 기능의 빠른 확장성을 고려하여, 범용 AI 시스템과 그 기반이 되는 AI 모델에 투명성 요건을 적용해야 한다는 데 중점을 둡니다. 이러한 요건에는 기술 문서의 작성, EU 저작권법 준수, 그리고 교육에 사용된 콘텐츠에 대한 자세한 요약본의 배포 등이 포함됩니다.
유럽 의회의 이번 합의는 인공지능 기술의 책임 있는 사용과 관리를 위한 유럽의 노력을 반영하며, 기술 발전이 사회적 가치와 일치하는 방식으로 이루어지도록 하는 것을 목표로 합니다. 이는 유럽이 인공지능 기술의 윤리적 사용과 관련된 국제적 표준을 설정하는 데 중요한 역할을 하게 될 것임을 시사합니다.
그러나 유럽이 개인정보보호를 중요한 우선순위로 여기고 있어 인공지능 저작권과 관련한 명확한 입장이나 의견이 드러나지는 않았습니다. 하지만 이는 유럽에서 비즈니스를 하기 위한 AI 사업자들은 반드시 준수해야 하는 것으로 OpenAI도 EU의 기준과 규범을 따르기 위해 노력하고 있고 아래의 Security Portal을 통해 다른 활동들에 대해서도 확인해보실 수 있습니다.
![OpenAI Security Portal (https://trust.openai.com/)](https://inblog.ai/_next/image?url=https%3A%2F%2Fwww.notion.so%2Fimage%2Fhttps%253A%252F%252Fprod-files-secure.s3.us-west-2.amazonaws.com%252F917763ed-d8af-4899-85b1-5b4c97f20e36%252F99bcd650-7d7f-4b74-aaac-245da40132c6%252F%2525E1%252584%252589%2525E1%252585%2525B3%2525E1%252584%25258F%2525E1%252585%2525B3%2525E1%252584%252585%2525E1%252585%2525B5%2525E1%252586%2525AB%2525E1%252584%252589%2525E1%252585%2525A3%2525E1%252586%2525BA_2024-02-26_%2525E1%252584%25258B%2525E1%252585%2525A9%2525E1%252584%25258C%2525E1%252585%2525A5%2525E1%252586%2525AB_10.29.05.png%3Ftable%3Dblock%26id%3Dd7a23846-61f6-4b1d-ad65-2318b4d13652%26cache%3Dv2&w=3840&q=75)
4. 일본: 인공지능에게는 관대하게, 창작자에게는 보상을!
먼저 일본의 저작권법은 일찍이 2009년에 이미 모든 사용자가 상업적/비상업적 목적 모두에서 텍스트와 데이터 마이닝(TDM) 같은 활동을 수행할 수 있도록 허용했습니다. 여기에 추가적으로 인공지능 개발에 대해서도 2018년 저작권법을 개정하하여 제30조 4항의 내용에 따라 저작물에 대한 비향유적 이용*에 대해서는 광범위하게 허용하였습니다. 명시적으로 딥러닝 학습과 같은 인공지능 개발을 위해 학습 데이터로 사용하는 경우에는 저작권을 침해하지 않는다고 규정하고 있습니다. [link1, link2]
비향유적 이용저작물을 원래의 감상이나 향유 목적으로 이용하는 것이 아니라, 다른 목적으로 이용하는 것을 의미합니다. 예를 들어, 저작물을 연구, 분석, 교육, 또는 기술적 처리 등의 목적으로 이용하는 경우가 이에 해당합니다. 이러한 이용 방식은 저작물의 내용을 직접 향유하거나 감상하기 위한 목적이 아니기 때문에 '비향유적'이라고 불립니다.
일본 문화청, 인공지능과 저작권에 관한 고찰에 대한 공개의견 모집
일본 문화청이 최근 “인공지능과 저작권에 관한 고찰”이라는 제목으로 2024년 1월 23일 공개 의견 모집을 시작했습니다. [link] 이는 지난 2023년 6월부터 진행된 심의 내용을 바탕으로 한 것으로, AI 저작권 문제에 대한 일본 문화청의 현재 고민과 초안을 공유하기 위한 목적에서 비롯되었습니다. 고찰이라는 점에서 사법적 판단을 대신하는 것은 아니지만 이후 정책 수립에 있어 중요한 이정표가 될 것으로 보입니다.
일본 문화청은 AI 저작권 이슈를 개발학습단계, 생성이용단계, 그리고 산출물의 저작권이라는 세 가지 주요 단계로 나누어 고찰하고 있습니다. 일본 문화청의 이러한 접근 방식은 필자가 이 시리즈에서 다루고 있는 인공지능 저작권 문제를 분석하는 방법과 상당히 유사한 점이 있어 흥미롭습니다.
가장 흥미로웠던 것은 기타 논제로 거론된 RAG(Retrieval-Augmented Generation)와 같은 기술에 대해서도 고찰하고 있다는 점이었습니다. RAG는 외부 지식을 기반으로 사실을 검색해서 대규모 언어모델이 최신 정보에 기반해 정확한 답변을 생성할 수 있도록 하는 방법을 말합니다. RAG를 위해서는 기존에 활용 중인 데이터베이스 혹은 웹에 게시된 저작물을 벡터로 변환하여 복제하는 과정이 필요한데 이와 관련한 자세한 의견을 구한다는 점이 흥미로웠습니다.
전반적으로 일본의 저작권법에 대한 저작물을 보호하기 위한 규제를 만들기보다는 이를 활용할 수 있도록 허용하되, 창작자에 대한 적절한 수익을 돌려줄 수 있는 환원 시스템에 대해서 별도의 논제로 따로 구분하여 놓은 것을 봤을 때 다른 국가들과는 확연히 차별화된 부분이었습니다. 문화 콘텐츠가 국가의 중요한 무역 수입원으로 그리고 일본 국가 내부적으로도 콘텐츠 창작과 소비가 활발하기 때문에 이런 창작자에 대한 환원 시스템에 대해 더 관심을 갖는 것은 아닌가 생각하게 되었습니다.
5. 중국: 인공지능 생성물에 대한 저작권 보호를 인정한 혁신적 판결
중국에서는 인공지능(AI) 생성물에 대한 저작권 보호 여부를 둘러싼 논의가 다른 국가들과 비교할 때 상대적으로 덜 투명하게 이루어지고 있는 것으로 보입니다. AI의 저작권 이슈에 대한 구체적인 기사, 법적 소송 사례, 정부 차원의 가이드라인 마련과 관련된 공식적인 발표나 정보를 찾는 것이 어려운 상황입니다.
그럼에도 불구하고 최근 베이징 인터넷법원의 AI 생성 이미지에 대한 저작권을 인정하는 판결은 중국 내에서도 이러한 이슈에 대한 관심이 점차 높아지고 있음을 시사합니다.
![notion image](https://inblog.ai/_next/image?url=https%3A%2F%2Fwww.notion.so%2Fimage%2Fhttps%253A%252F%252Fprod-files-secure.s3.us-west-2.amazonaws.com%252F917763ed-d8af-4899-85b1-5b4c97f20e36%252Feae81d2b-d168-45b9-b8fe-9d36340813d9%252F%2525E1%252584%252589%2525E1%252585%2525B3%2525E1%252584%25258F%2525E1%252585%2525B3%2525E1%252584%252585%2525E1%252585%2525B5%2525E1%252586%2525AB%2525E1%252584%252589%2525E1%252585%2525A3%2525E1%252586%2525BA_2024-02-16_%2525E1%252584%25258B%2525E1%252585%2525A9%2525E1%252584%25258C%2525E1%252585%2525A5%2525E1%252586%2525AB_8.49.23.png%3Ftable%3Dblock%26id%3D6420369a-b9fd-431a-be66-e675cb824521%26cache%3Dv2&w=3840&q=75)
이 판결은 중국에서 AI 생성물에 대한 저작권 보호의 방향성을 엿볼 수 있는 중요한 사례로, 창작을 장려하는 저작권 시스템의 본질적 목적을 바탕으로, AI 기술을 통해 생성된 이미지가 인간의 창의적 노력을 들였다면 저작권법에 의해 보호받아야 한다는 관점을 제시합니다. 이는 AI가 생성한 이미지 속 작가의 개인적 표현에 대한 향후 분쟁을 사례별로 판단해야 한다는 점을 강조합니다.
저장 즈다 로펌의 차오 완리 변호사는 이번 판결이 향후 중국 내 AI 저작권 분쟁에 광범위한 영향을 미칠 것으로 보이며, AI 생성 콘텐츠 도구를 제공하는 중국의 빅테크 기업들에게 유리하게 작용할 수 있다고 언급했습니다. 홍콩대학교의 안젤라 장 교수 역시 이번 판결이 AI 생성 콘텐츠의 저작권 침해에 대한 중국 법원의 첫 번째 결정으로서 큰 의미를 지니며, 향후 관련 사건에 강력한 선례적 영향력을 발휘할 수 있다고 강조했습니다.
비록 이 판결이 베이징 지식재산법원에 항소될 수 있는 여지를 가지고 있지만, 이는 AI 기술의 발전과 창작물 생성에서 AI의 역할이 점차 커지는 상황에서 중국 내에서 AI 생성물에 대한 저작권 보호의 구체적인 법적 기준과 방향성을 설정하는 데 중요한 역할을 할 것으로 기대됩니다. 하지만 중국 내에서 AI의 저작권 이슈에 대한 논의가 다른 국가들에 비해 상대적으로 덜 활발하게 이루어지고 있어, 향후 이 분야에서의 발전과 변화를 예의주시할 필요가 있습니다.
6. 우리나라는?
한국이 저작권 분야에서 세계적으로 인정받는 강국임을 증명하듯, 최근 발표된 글로벌혁신센터(GIPC)의 2023년 국제 지식재산 지수에서 한국은 온라인상의 저작권 침해 예방에 탁월한 점을 인정받아 55개 조사 대상 국가 중 7위를 차지했습니다. 이는 미국, 싱가포르, 영국 등의 선진국을 뒤이어 매우 고무적인 성과입니다. 그러나 "저작권의 제한과 예외" 및 "정부의 정품 소프트웨어 사용" 항목에서 다소 낮은 평가를 받아 아쉬움을 남겼습니다. 이와 달리, 일본과 중국은 각각 10위와 27위로, 최근의 저작권법 개정이 긍정적으로 평가되며 순위가 상승했습니다. (출처: 한국저작권위원회 link)
네이버가 하이퍼클로바X라는 ChatGPT와 유사한 생성형 AI 서비스를 제공함으로써 한국이 인공지능 기술 분야에서 세계적인 경쟁력을 갖추고 있음을 명확히 있습니다. 한편, 한국 정부는 인공지능 저작권과 관련된 문제에 매우 신속하게 대응하고 있습니다. 정부 차원에서의 이러한 발 빠른 대응은 국내 기업들이 새로운 기술을 안정적으로 개발하고 상용화할 수 있는 환경을 조성하고, 국민들의 지식재산권을 효과적으로 보호하는 데 중요한 역할을 해줄 것으로 기대됩니다.
특히 주목할 점은, 한국 특허청(KIPO)이 2023년 11월 14일 발표한 설문조사 결과입니다. 이는 인공지능이 발명자가 될 수 있는지에 대한 국민의 의견을 묻는 것으로, 작년 7월부터 시작한 대국민 설문조사였습니다. 이러한 적극적인 행정은 한국이 인공지능과 관련된 법적 및 윤리적 문제에 대해 선제적으로 접근하고자 하는 의지를 보여줍니다.
📖 “생성형 AI 저작권 안내서”
2023년 12월 27일 문화체육관광부와 한국저작권위원회에서 ’생성형 AI 저작권 안내서’를 발간하였습니다. 107페이지에 이르는 이 안내서에는 생성형 AI의 산출물이 만들어지는 과정에서 이해관계를 갖는 주체들(right holders)이 저작권과 관련하여 알아 두어야 할 내용들이 정리되어 있습니다. 안내서의 내용이 주요 쟁점에 관한 유권해석은 아니고 추후에 법이 제정 혹은 개정될 경우 변경될 수 있지만 관련 업계에서 참고할 수 있는 중요한 기준이 될 것으로 보이기 때문에 읽어보시기를 추천드립니다.
AI 개발자 및 사업자들은 인공지능 학습에 사용하는 데이터에 대해 적법한 권한을 확보할 것을 권고한다고 할 뿐 개발에 있어 사업자들에게 많은 권한을 허용하는 것처럼 보이는 내용이 작성되어 있습니다.
초거대AI추진협의회, 안내서에서 특정 문구 삭제를 권고
2023년 12월 27일, 한국소프트웨어산업협회(KOSA) 산하 초거대AI추진협의회가 문화체육관광부와 한국저작권위원회가 발표한 '생성형 인공지능 저작권 안내서'에 대해 중요한 건의를 제출했습니다. 초거대AI추진협의회는 "학습 데이터에 대해 적법한 권한을 확보할 것을 권고한다"는 문구의 삭제를 요청했습니다. 해당 문구와 관련된 내용은 이 안내서는 유럽의 저작권 보호 가이드라인만큼 엄격한 내용을 담고 있어, 마치 AI사업자 입장에서는 생성형 AI 개발을 전면적으로 금지하라는 듯한 인상을 주고 있습니다.
협의회의 이러한 제안은 방대한 데이터를 사용하는 인공지능 개발 과정에서 각각의 데이터 이용 목적, 기간, 대가 등을 개별적으로 협의하고 계약해야 한다는 현재의 가이드라인이 실무적으로 매우 비현실적이며, 이로 인해 한국이 글로벌 AI 경쟁에서 뒤처질 수 있다는 우려에서 비롯되었습니다. 또한, 협의회는 이 안내서가 법적이거나 사회적 합의가 없는 상황에서 선제적으로 공개됨으로써, 향후 입법이나 사법의 판단에 영향을 미칠 수 있다고 지적했습니다.
생성형 인공지능 기술의 발전은 산업 전반에 걸쳐 막대한 파급력을 가지고 있으며, 이는 우리나라를 포함한 전 세계적으로 혁신적인 변화를 가져오고 있습니다. 그러나 이와 동시에, 저작권 보호와 관련된 엄격한 가이드라인은 국내 AI 산업의 글로벌 경쟁력을 저해할 수 있는 잠재적 위험을 내포하고 있습니다.
협의회의 최근 건의는 그 사이에서 균형을 찾고자 하는 노력의 일환으로 보여집니다. 법적 규제와 혁신적 기술 개발 사이에서 합리적인 접점을 모색하고 있습니다. 저작권 보호와 기술 혁신 사이에서 균형을 이루는 것은 단순한 법적 문제를 넘어서, 대한민국의 미래 산업 경쟁력과 직결된 중요한 이슈로 이에 대한 신중하고 현명한 접근이 요구됩니다.
6. 맺음말
세계 각국은 AI 저작권에 대해 서로 다른 입장을 취하고 있습니다. 미국은 저작권 분쟁의 전쟁터로, 유럽은 개인정보 보호에 중점을, 일본과 중국은 AI 생성물의 저작권을 인정하는 방향으로 나아가고 있습니다. 우리나라는 유럽과 가까운 방향으로 가는 것처럼 보이기도 합니다.
결국 인공지능과 관련된 저작권 문제 역시 국제적인 협력과 표준화의 과정을 거칠 것이기에 AI 저작권에 대한 논의는 끝나지 않았으며, 사실상 더욱 복잡해질 것입니다. 우리는 기술의 발전 속도에 맞춰 법률과 정책을 조정해야 할텐데 이는 모든 이해관계자들에게 새로운 도전이 될 것이며, 동시에 창의적인 접근과 혁신의 기회를 열어줄 것이라고 생각합니다.
다음 포스트에서는 앞에서 다뤘던 논쟁인 ‘인공지능 개발•학습 단계에서의 저작물 사용’과 관련하여 ChatGPT와 같은 생성형 인공지능이 실제로 저작물을
암기(Memorization)
하는 방식인지 알아보고, 특정 인공지능이 나의 데이터를 사용했는지 알 수 있는 방법이 있는지 그리고 인공지능 학습으로부터 나의 저작물을 보호할 방법은 없는지에 대해서 다루도록 하겠습니다. Share article
Subscribe to our newsletter