사실 이미 AI 기업들은 저작권법과 관련해서 수많은 소송전을 이어오고 있어. 그런데 소송 과정에서 공개되는 증거들과 내부 문건들을 보면 빅테크 기업들은 이미 무단으로 저작권이 있는 데이터를 사용하고 있었더라고. 아래 문서는 뉴욕타임스가 법원에 제출한 자료중 일부야. 여기엔 뉴욕타임스 기사가 오픈AI 모델에 얼마나 많이 포함되어 있는지, 그 증거가 담겨 있지. 왼쪽이 GPT가 뱉어낸 결과물이고, 오른쪽이 실제 뉴욕타임스의 기사인데 빨간 부분이 완벽하게 일치한 영역이야.

뉴욕타임스는 오픈AI가 자신들의 기사를 임의로 학습하고, 또 이렇게 암기된 기사를 다시 그대로 출력하는 건 저작권 침해라고 주장해. 뉴욕타임스는 저작권 침해 사례로 볼 수 있는 예시 100개를 정리한 위의 보고서를 증거로 제출했어.

반면 오픈AI는 모델이 학습 데이터를 ‘암기’해서 내뱉는 건 버그라고 얘기하고 있어. 또 뉴욕타임스의 기사를 사용한 건 저작권법에서 허용하는 공정 이용에 해당한다고 주장해.

이 소송이 시작된 게 지난 2023년 12월인데, 아직 결과가 나오진 않고 있어. 참고로 올해 3월에 오픈AI가 이 소송을 기각해달라고 재판부에 요청했더라고. 이유는 다음과 같아. "아니, 뉴욕타임스 기사들을 보니까 이미 2020년부터 AI 학습에 자신들의 기사를 활용하고 있다는 걸 알고 있었네? 그런데 2024년 다 되어서 소송을 냈으니 이미 소송 기한을 넘긴 것이다!"는 건데, 물론 법원은 오픈AI의 이 요청을 받아들이진 않았어.

이 사건의 판결이 어떻게 날지는 모르겠지만, 뉴욕타임스가 승리하게 된다면 오픈AI 뿐 아니라 다른 LLM을 만들던 빅테크들도 난리가 날 수 있어. 아래 그래프를 통해 살펴보도록 하자.

연구진들이 아까 증거로 제시했던 뉴욕타임스 기사를 다른 모델들도 암기하고 있는지 확인을 해봤어. 그 결과 오픈AI 뿐 아니라 다른 기업들의 모델에서도 뉴욕타임스 기사의 흔적이 발견되고 있었지. 모델 크기가 클수록 기사 암기량이 더 많았고, 가장 많이 발견된 모델은 앤트로픽의 Claude-3 Opus 모델이었어.

이 연구에서는 오히려 오픈AI 모델의 기사 암기량이 다른 모델들보다 적었는데, 연구진들은 오픈AI가 소송중이니만큼 답변 필터링을 더 강력하게 한 영향 아닐까 해석하고 있더라고. 

기사 뿐 아니라 책 데이터도 불법으로 다운받았다는 의혹을 받는 기업도 있어. 바로 메타야. 메타는 작가들과 소송전을 벌이고 있는데, 전미도서상을 수상한 타네히시 코츠 작가부터, SNL로 유명한 사라 실버먼까지 면면이 화려해. 작가들은 메타가 모델을 학습하는 데 자신들의 저작물을 허락없이 사용했다고 주장하고 있어.

소송 과정에서 공개된 내부 자료를 보면 메타에서는 불법으로 전자책을 다운 받은 정황이 포착되었는데, 립젠(Libgen) 같은 불법 공유 사이트에서 메타가 다운받은 전자책 규모가 무려 81.7 테라바이트나 되는 것으로 알려졌어.

게다가 메타 내부에서는 이러한 행위가 문제가 될 것이라는 걸 알고 있었던 것 같아. 그래서 이걸 은폐하기 위한 다양한 아이디어도 오갔던 정황이 포착되었어. 가령 ISBN, Copyright, 저작권 표시가 포함된 데이터는 다 지운다거나, 앞서 살펴본 뉴욕타임스 사례처럼 무단으로 암기한 자료가 뱉어지지 않도록 그런 질문들은 아예 답변하지 않도록 모델을 조정하자고 제안하기도 했지. 게다가 불법 다운의 흔적이 남지 않으려고 서버를 우회해서 토렌트로 다운 받은 정황도 확인할 수 있었어.

메타뿐 아니라 오픈AI도 무단으로 책 데이터를 학습한 듯 해. 미국 사회과학연구협의회 연구진은 프로그래밍 공부하는 분들이라면 익숙할 오라일리 출판사의 책 34권을 가지고 오픈AI 모델이 책의 자료를 학습했는지 파악해봤어.

오픈AI의 모델들은 오라일리와 라이선스 계약을 하지 않았는데도 불구하고 유료 구독자만 볼 수 있는 비공개 콘텐츠를 너무나 잘 인지하고 있었어. GPT-4o 모델은 무려 82%나 파악하고 있었지. 게다가 공개된 자료(주황색)보다 비공개 콘텐츠(초록색)를, 더 잘 인지하고 있다는 결과가 나온 건 무단으로 크롤링 했거나 메타처럼 비공식 경로를 사용한 건 아닌지 의심이 되기도 해.

글과 책뿐이겠어. 그림, 영상, 음악 등 다양한 저작물들의 이용을 두고 창작자와 AI 기업들 사이의 갈등은 이어지고 있어. 그런데 빅테크들은 왜 이렇게 저작권이 있는 자료들을 탐하는 걸까?  그건 바로 이게 양질의 자료이기 때문이야.

좋은 AI 모델을 만들기 위해선 핵심 자원 세 가지가 필요해. 먼저 뛰어난 인재가 있어야 할 테고, 또 모델을 만들기 위한 컴퓨팅 인프라도 갖춰져야 해. 그리고 마지막으로 모델을 학습시키는 데 필요한 데이터까지.

좋은 모델을 만들기 위해선 데이터를 많이 투입하면 돼. 하지만 많은 양의 데이터를 투입하는 데는 리소스가 엄청나게 들지. 그래서 기업들은 데이터를 덜 넣으면서도 좋은 모델을 만들기 위한 노력을 해왔으니, 그 해답은 바로 '양질의 데이터'였어.

MS에서 발표한 "Textbooks Are All You Needs"라는 논문이 있어. "우리에게 필요한 건 교과서"라는 말대로 교과서 수준의 양질의 데이터만 있다면 학습 데이터 규모가 크지 않더라도 좋은 성능의 모델을 만들 수 있어. 메타가 토렌트를 써서라도 책을 다운받으려는 이유가 바로 여기에 있는 거야.

다 좋아. 양질의 데이터 쓰는 것 좋지. 그런데 왜 그걸 훔쳐서 쓰냐는 게 창작자들의 입장이야. 엔지니어 한 명당 10억 넘게 주면서 채용하고, 또 GPU 같은 인프라에 1조 넘게 투자하고 있으면서 왜 데이터는 불법으로, 무료로 사용하려고 하는 건지 납득이 안 된다는 거야. 기업들은 GPU를 훔치는 건 범죄고, 데이터를 무단으로 훔치는 건 범죄가 아니라고 생각하는 걸까?

창작자들은 빅테크들의 질주를 막기 위해 적극적으로 행동에 나서고 있어. 지난 2024년 10월, AI 기업이 창작물을 무단 학습하는 것에 반대하는 서명을 시작했는데 당시에만 예술인 1만 명이 참여했어. 2025년 5월엔 그 규모가 5만 명을 넘어섰더라고.

여기엔 기관 279개, 그리고 5만 544명의 개인이 참여했는데, 줄리안 무어, 케빈 베이컨, 킷 해링턴 같은 배우들 뿐 아니라 라디오헤드의 톰 요크, 큐어의 로버트 스미스, 케이트 부시의 이름도 확인할 수 있어.

이렇게나 많은 창작자들이 우려하고 있음에도 불구하고 일부 국가에선 AI 기업에 힘을 실어주려는 모습이야. 트럼프의 저작권청장 해임 사건도 그 전조 증상으로 보이고, 영국은 실제로 관련 법을 개정하려 했지.

영국 정부는 AI 발전을 위해 저작권이 있는 콘텐츠도 학습 데이터로 활용할 수 있도록 하는 개정안을 공개했는데, 이 법안이 공개된 이후 많은 예술인이 분노했어. 그 중엔 폴 매카트니와 엘튼 존 같은 레전드들도 있었어. 이들은 왜 예술가들의 권리를 침해하면서까지 기술 대기업에만 이익을 집중해 주냐며 목소리를 높였어.

최근엔 1,000명의 영국 아티스트들이 모여 영국 정부에 항의하는 뜻을 모아 앨범을 발매했어. <Is This What We Want?>라는 앨범인데, 이 앨범에 수록곡 제목을 이어 붙이면 이런 문장이 완성돼.

"The British Government Must Not Legalize Music Theft To Benefit AI Companies" 

영국 정부는 AI 기업에 이익을 주기 위해 음악 도둑질을 합법화해서는 안 된다 

명쾌한 해결 방법은 학습 데이터를  법적으로 아예 공개하도록 하면 돼. 어떤 재료들을 사용했고, 이 재료는 어느 창작자가 소유하고 있는지 투명하게 밝히는 식으로 말이지. 하지만 기업들은 학습 데이터를 공개하라는 요구에 대해 강력히 반대하고 있어. 데이터 경쟁 시대에 데이터라는 것 자체가 영업비밀에 해당하는데, 이걸 공개해버리면 경쟁력이 상실될 수 있다는 우려가 있는 거야.

일단 학계에서는 AI 기술을 활용해서라도 저작권 침해를 줄이려는 시도를 고민하고 있어. 일부 연구진은 콘텐츠의 독창성을 아예 수치화해서 AI가 이미지를 생성할 때 저작권이 있는 콘텐츠의 고유 특징들을 모방하지 않도록 했어.

구독자, 한 번 슈퍼마리오를 떠올려볼까? 슈퍼마리오 하면 떠오르는 고유 특징들이 있지. 커다란 눈, 동그란 코, 그리고 콧수염까지. 또 M이 박혀있는 빨간 모자와 빨간 셔츠, 파란색 멜빵바지도 있어.

연구진은 알고리즘을 통해 마리오 특유의 고유 특징을 포함하지 않도록 해서 가장 평균적인 이미지만을 생성해도록 했어. 아래 이미지처럼 말이야. 원래라면 저작권을 침해할 이미지를 생성할 모델(w/o Intervention)들이 PREGen 알고리즘을 적용하면 배트맨을 요구해도, 캡틴 아메리카를 요구해도, 주토피아의 주디를 요구해도 고유성이 없는 일반적인 이미지가 출력돼.

직접적으로 '마리오'를 그려달라고 모델에 입력했을 때 아무런 제약이 없는 모델에선 최대 41.3%가 저작권과 유사한 결과물이 나온 반면, 연구진이 개발한 알고리즘이 적용된 경우엔 3.3%로 크게 떨어져.

어떤 연구진들은 AI의 학습 데이터 자체에 집중하기도 해. AI가 문제가 되는 저작권 데이터를 학습하고 암기하고 있다면, 이걸 지워버리자는 거지. 이른바 머신 언러닝인데, 머신 언러닝은 저작권뿐 아니라 AI가 학습한 잘못된 가짜 정보와 개인정보도 없앨 수 있다는 점에서 주목받고 있어.

정부에서는 제도를 통해 기술과 저작권의 간극을 메우려고 해. 일단 미국과 유럽에서는 학습 데이터를 의무적으로 공개하라는 법을 준비하고 있어.

미국의 상황을 살펴보자면 일단 미 연방 차원에서는 아직 입법으로 이어지진 않았고, 발의만 되어 있어. 대신 AI가 가장 빠르게 발전하고 있는 캘리포니아주에선 2026년 1월부터 AI 기업들은 학습 데이터의 출처와 지적재산권 보호 여부를 웹사이트에 공개해야 해. 물론 많은 AI 기업은 이 법안에 대해 침묵을 지키고 있지.

유럽연합에서는 AI 기본법을 통해 데이터 출처를 제출토록 해두었어. 만약 위반하게 될 경우엔 매출 기준으로 벌금이 부과될 수 있지.

유럽에 이어 세계에서 두 번째로 AI 기본법을 제정한 우리나라 상황은 어떨까? 우리나라의 AI 기본법에는 학습 데이터의 저작권 보호를 명시한 조항이 없어. 대신 AI 저작권법을 만들어서 따로 관리할 예정이었는데, 아직 뚜렷한 진전이 보이진 않고 있지.

다만 영국에서도 예술가들의 행동이 입법을 막았듯 우리나라에서도 창작자들이 움직이고 있어. 

최근엔 15개 창작자 단체가 AI 학습 데이터를 공개하고 창작자에게 제대로 된 보상을 해야한다는 공동 성명을 발표하기도 했더라고.