🎩 AI가 내 사진을 마음대로 가져간다면?

2023. 4. 13.

AI가 내 사진을

마음대로 가져간다면?

구독자 안녕? 지난 일주일은 잘 보냈어? 지난주 마부뉴스에서 다뤘던 산불이 이번주에도 큰 상처를 남겼어. 강릉에서 발생한 산불로 인해 축구장 면적의 530배 규모의 산림이 소실되었어. 화마를 미처 피하지 못한 한 분은 숨지기까지 했지. 피해가 심각한 상황인데 하루빨리 상황이 잘 수습되고 이재민들이 일상으로 회복되길 간절히 바랄게.

오늘 마부뉴스에선 AI에 대한 이야기를 해보려고 해. 혹시 구독자 인터넷에서 해리포터 캐릭터들이 90년대 발렌시아가 풍의 패션모델로 재탄생한 영상 본 적 있어? 혹시 못 봤다면 한 번 보고 와봐. 당장 이 영상이 공개되자 사람들은 비슷한 스타일의 콘텐츠를 제작하고 있어. 침착맨과 발렌시아가를 조합한 영상도 인기가 많더라고. 무궁무진한 생성형 AI의 힘이라고 할 수 있을 거야. 그런데 이런 제작물에 내 작품이 무단으로 도용된다면 어떨 것 같아? 더 나아가 내 얼굴이 무단으로 도용된다면? 오늘 마부뉴스가 독자에게 던지는 질문은 바로 이 지점이야.

만약 AI가 내 사진을 마음대로 가져간다면?

AI와 함께라면 어떠한 콘텐츠라도 뚝딱?!

해리포터 발렌시아가 영상은 크리에이터 Demonflyingfox의 작품이야. Demonflyingfox가 특별히 코딩 천재이고 그래픽 기술을 가지고 있어서 저 영상을 만들었던 건 아니야. 크리에이터는 오로지 생성형 AI만으로 해리포터 발렌시아가 영상을 만들어냈거든. 사용한 프로그램은 모두 4개. 특별한 기술 없이도 챗GPT, 미드저니, Eleven Labs, D-ID만 활용하면 저 영상을 충분히 만들어 낼 수 있는 거지. 어떤 방식으로 Demonflyingfox가 작업을 진행했는지 아래에 정리해 봤으니 혹시 관심 있다면 구독자도 한 번 시도해 봐.

먼저 Demonflyingfox는 우선 챗GPT에다가 해리포터 캐릭터 10명을 뽑아달라고 했어. 그리곤 챗GPT에게 20년 경력의 발렌시아가 디자이너라는 역할을 부여한 뒤, 디자이너로서 90년대 느낌으로 해리포터 캐릭터들을 스타일링해달라고 주문을 했지. 그러면 챗GPT가 주루루룩 답변을 해.
이 답변한 내용을 미드저니에 붙여 넣으면 벌써 절반은 끝이야. 미드저니는 텍스트를 이미지로 바꿔주는 생성형 AI 모델이니만큼 순식간에 90년대 풍의 발렌시아가 패션을 입은 캐릭터들이 등장하지.
세 번째 단계는 목소리를 넣는 거야. Eleven Labs는 간단한 음성 파일을 넣으면 음성 데이터를 학습하고, 합성된 음성으로 다양한 스크립트를 읽어낼 수 있는 텍스트 음성 변환 AI거든. 유튜브에 있는 해리포터 배우들의 인터뷰 영상을 mp3 파일로 다운 받은 뒤 이 음성 파일을 Eleven Labs에 넣어서 스크립트를 읽도록 하면 끝.
마지막 단계는 애니메이션 작업인데 이것도 D-DI라는 AI 프로그램으로 금방 처리할 수 있어. 미드저니에서 만들어낸 이미지와 Eleven Labs에서 생성한 오디오파일을 넣으면 누구라도 손쉽게 애니메이션을 제작할 수 있지.

이런 방식으로 발렌시아가와 반지의 제왕의 만남, 80년대 일본 야쿠자 스타일의 해리포터 이미지, 침착맨과 루브르 박물관을 조합할 수 있는 거지. 게다가 생성형 AI의 발전속도가 워낙 빠르다 보니 음악을 만들어주는 AI도 나오고, 글을 비디오로 만들어주는 알고리즘도 우후죽순 등장하고 있어. 그만큼 돈도 몰리고 있지. 2022년 생성형 AI 스타트업에 대한 벤처캐피탈 투자 건수는 약 110건, 투자 규모는 27억 달러 수준으로 성장했어.

AI가 만들어내는 마부뉴스 일러스트

마부뉴스도 가만히 있을 수 없지. 마부뉴스의 자랑! 마부뉴스의 아이덴티티! 마부뉴스의 알파이자 오메가! 바로 마부뉴스만의 깔끔한 일러스트를 생성형 AI로 만들어봤어. 기존에 나와있는 이미지 생성 AI는 방대한 데이터를 이미 학습해 온 모델을 우리가 이용하는 식이라 새로운 데이터를 넣어서 학습시키기가 까다로웠어. 데이터를 헤칠 가능성도 있기 때문에 원천적으로 막아두는 AI도 있고.

그런데 구글에서 작년에 드림부스라는 일종의 미세조정 방법론을 발표했는데 이 드림부스를 활용하면 기존 모델이 훈련한 데이터에 포함되지 않은 다양한 이미지를 생성할 수 있게 돼. 즉 다양한 생성형 AI에 새로운 데이터를 학습시켜서 비슷한 느낌을 내는 이미지를 만들어 낼 수 있다는 거지. 그래서 올해 마부뉴스가 발송한 레터 중에 마부뉴스 일러스트 25개를 뽑아 드림부스를 활용해 Stable Diffusion에 학습시켰어. 그리고 나온 결과는?

그림을 자세히 보고 싶다면 CLICK 👆

놀랍지 않아? 25개 이미지를 학습시키는 데 걸리는 시간은 약 1시간. 아마 컴퓨터의 사양이 좋았다면 시간은 훨씬 줄어들었을 거야. 마부뉴스 일러스트를 학습시킨 Stable Diffusion에 “Woman eating Sandwich”라는 명령어를 넣으면 순식간에 위와 같은 일러스트를 만들어내. 학습 데이터를 더 많이 넣고 파라미터를 미세 조정한다면 지금 이 그림들보다 훨씬 더 마부뉴스스러운 일러스트를 뽑아낼 수 있게 되겠지.

생성형 AI에서는 결국 어떤 데이터를 학습시키느냐가 가장 중요해. 콩 심은 데 콩 나고 팥 심은 데 팥 나는 것처럼, 어떤 데이터를 넣으냐에 따라 나오는 결과물이 달라질 테니까. 그런데 이런 생각이 들 수도 있을 것 같아. 이렇게 누구나 간단하게 코드만 이용하면 마부뉴스 스타일의 그림을 뚝딱 그려낼 수 있는데, 만일 마부뉴스와 관계없는 사람들이 이렇게 마부뉴스 일러스트를 학습시킨 데이터로 일러스트를 그린다면? 발렌시아가처럼 이름난 패션 브랜드를 학습시켜서 생성한 디자인으로 옷을 만든다면? 그리고 그것으로 경제적 이익을 본다면?

원작자의 동의 없이 학습되는 AI

이젠 글자만 넣으면 논문 수준의 글이 나오고, 음악이 나오고, 그림과 비디오가 나오는 시대야. 이렇게 생성형 AI가 수많은 것들을 생산할 수 있었던 기반은 방대한 데이터를 학습했다는 데에 있어. 생성형 AI는 대부분의 머신러닝 알고리즘과 마찬가지로 수많은 데이터를 학습해 그 패턴을 식별하고 복제해 새로운 무언가를 만들어내는 거지. 문제는 학습하기 위해 긁어온 웹상의 수많은 데이터들이 저작권과 얽혀있다는 거야.

구독자 혹시 <매직 더 게더링>이라는 게임 해본 적 있어? 갑자기 게임 이야기를 꺼낸 건 다름이 아니라 <매직 더 게더링>의 컨셉아트에 참여한 그렉 루트코프스키라는 일러스트레이터 이야기를 하려고 하거든. 워낙 이 방면에서 잘 나가는 사람이라 Stable Diffusion에서만 그의 이름이 93,000번 가량 사용되었다고 하지.

처음에는 좋았대. 많은 사람들로부터 자신의 작품이 인정받고 있다는 거니까. 하지만 시간이 가면 갈수록 자신이 작업하지 않은 작품에 버젓이 자신의 이름이 달려있는 경우가 많아지면서 문제가 시작됐어. 이런 상황이 지속되면 아티스트 수익에 타격이 올 수밖에 없잖아. 그렉에게 따로 부탁하지 않아도 그렉의 일러스트 스타일대로 만들 수 있게 되면 굳이 돈을 들일 필요가 없게 되는 거니까.

결국 그렉은 자신의 홈페이지에 “No to AI generated images”라는 공지를 걸어뒀어. 더 이상 자신의 작품을 허락 없이 AI에 사용하지 말라는 경고였지. 최근엔 AI 기업들로부터 자신들의 작품과 데이터를 보호하는 유럽 예술가 단체인 EGAIR(European Guild for Artificial Intelligence Regulation)에 가입해 저작권 보호를 위한 활동을 계속해 나가고 있어.

그래프를 자세히 보고 싶다면 CLICK 👆

그렉과 같은 아티스트들이 얼마나 될지 확인하기 위해선 생성형 AI의 학습 데이터를 살펴봐야 할텐데 그게 쉽지만은 않아. AI 업체들이 그 데이터를 공개하고 있지 않고 있기도 하거니와, 설령 확인이 된다고 하더라도 이미 학습된 모델에다가 마부뉴스가 드림부스를 이용했던 것처럼 언제든지 추가로 학습시킬 수 있는 가능성이 있거든.

그래도 Stable Diffusion이 공개한 학습데이터를 한 번 살펴봤어. WAXY라는 곳에서 분석한 자료인데 훈련 이미지 1,209만 6,835개를 정리해 봤어. 물론 최초 훈련 때 사용한 23억 개의 데이터에 비교하면 조족지혈 수준이지만! 1,200만 개의 이미지를 살펴봤을 때 가장 많이 등장한 아티스트는 누구였을까? ‘빛의 화가’라는 별칭을 가진 토마스 킨케이드가 9,268번으로 가장 많이 등장했어. 그다음으로 2위를 차지한 건 빈센트 반 고흐였지. 8,376번 등장했어. 상위 25명의 아티스트 중에 22명의 작가들이 이미 세상을 떠난 상태였어. 자신의 작품이 AI 학습에 사용되었는지를 확인할 수 있는 작가는 단 3명뿐이었지.

뭐 그림에서만 이런 상황이 발생하는 건 아니야. 코드에서도 비슷한 상황이 펼쳐지고 있어. 깃허브에서 만든 Copilot이라는 프로그램이 있어. 혹시 구독자 사용해 본 적 있어? 이 녀석은 깃허브에 올라온 수많은 코드들을 GPT-3을 이용해 학습한 뒤, 프로그래머들이 코딩이 막히더라도 그 해결책을 뚝딱뚝딱 제시해 주는 프로그램이야. 문제는 Stable Diffusion과 마찬가지로 코드 생산자의 권리를 무시하고 학습을 했다는 점이야. 저작자의 이름을 표시하는 조건으로 공개한 코드도 다 포함해서 학습하면서 코드 생산자의 저작권은 사라져 버렸지.

Q. Stable Diffusion에 자주 언급된 화가들, 이름은 어디서 들어봤는데... 도대체 누구야?

토마스 킨케이드: 전원적이고 사실적인 그림을 그린 미국의 화가로, 킨케이드의 그림은 동화같은 느낌을 줘.

빈센트 반 고흐: 서양 미술사에서 가장 위대한 사람 중 하나로, '별이 빛나는 밤', '해바라기' 등이 대표적이야.

레오니드 아프레모브: 붓 없이 팔레트 나이프만으로 색색의 물감을 떠 그림을 그리는 화가로, 화려한 빛의 묘사가 인상적이야.

클로드 모네: '인상, 해돋이', '수련연못' 등으로도 우리에게 익숙한 프랑스의 인상주의 화가야.

에드워드 호퍼: 미국의 화가로, 주로 고독과 소외가 만연한 도시의 일상적인 모습을 사실적으로 그렸어.

노르만 록웰: 미국의 20세기 화가이자 일러스트레이터로, 대표작으로는 '거울 앞의 소녀'와 '세 겹의 자화상' 등이 있어.

윌리엄 아돌프 부그로: 프랑스의 아카데미 회화를 대표하는 화가야. 신화적인 주제를 사실적으로 그렸어.

알버트 비어스타트: 미국 서부의 광활한 풍경 그림으로 가장 잘 알려진 독일계 미국인 화가야.

존 싱어 사전트: 미국에서 태어난 초상화가로 상류사회를 주로 그렸어.

저작권을 넘어 개인정보까지 먹어버린 AI

구독자, 우리나라 정부가 2021년 말에 출입국 심사용 인공지능 개발을 위해 1억 7,000만 건의 얼굴 사진을 24개 민간 업체에 넘겼다는 이야기 기억나? 예전 <개인 생체정보, 보호해야 할까? 활용해야 할까?>레터에서 다뤘었는데, 혹시 기억이 나지 않는다면 한 번 살펴봐! 안면인식 AI 연구에는 수많은 사람들의 얼굴이 필요해. 제대로 식별하기 위해선 개인 얼굴 이미지를 학습시켜야 할 테니까. 지극히 개인적인 정보인 안면 인식 정보에 대한 문제는 우리나라뿐 아니라 전 세계적으로 문제가 되고 있어.

Exposing.ai라는 프로젝트가 있어. 얼굴 인식 AI에 사용된 학습 데이터를 추적해 개인정보 침해 가능성은 없는지 살펴보는 프로젝트인데, 살펴보니까 플리커라는 SNS 사진 공유 사이트에서 가져온 사진들이 많았어. 문제는 플리커에 올라온 개인 사진들이 저작자를 표시하거나 비상업적인 목적에만 허용해 줬는데 실제 사용은 그러지 않은 경우가 많다는 거지.

그래프를 자세히 보고 싶다면 CLICK 👆

위 그래프는 100만 장 이상의 이미지를 사용해 학습한 얼굴 인식 AI 별로 얼마나 많은 플리커 사진이 사용되었는지를 나타낸 그래프야. 가장 많은 이미지가 포함된 메가페이스 데이터셋은 미국 워싱턴 대학교에서 만든 거야. 전체 이미지가 무려 475만 장이 넘지. 그중 75.3%가 플리커 사진이었어. 문제는 이 데이터셋이 기업이나 군사기관 등으로 재배포되었다는 것. 알리바바, 아마존, 구글, 미쓰비시, 삼성, 텐센트 등 기업들을 비롯해 미 육군과 중국 정부도 메가페이스 데이터 셋을 사용했어. 뒤늦게 워싱턴 대학교에서는 데이터를 폐기했지만 이미 많이 사용되었지.

이렇게 비영리 목적으로 제공한 내 정보가 타고 타고 넘어가다가 영리적인 목적에 사용되는 경우들을 이른바 ‘AI 데이터 세탁’이라고 해. 사실 이런 데이터 세탁은 AI 산업에서 비일비재해. 일단은 비상업적 연구기관에서 AI 모델을 만들고, 그 모델을 기업에서 사용하는 식인거지. 저작권과 개인정보에 문제가 될 수 있는 모델링만 연구소에 아웃소싱 하는 식으로 말이야.

메타가 공개한 생성형 AI 모델은 학술 목적으로 비상업적 데이터 세트를 사용해서 훈련했어. Stable Diffusion이 훈련한 방대한 데이터도 모두 독일의 비영리단체 LAION에서 제공한 자료들이지. 챗GPT를 만든 OpenAI도 비영리단체야. 하지만 OpenAI가 만든 GPT 모델로 이득을 보는 건 MS이지. 기업들이 돈을 버는 모델을 학습시킨 건 비영리 목적으로 제공한 수많은 사람들의 개인정보라는 불편한 진실. 구독자는 어떻게 생각해?

속속들이 등장하는 저작권, 개인정보 소송

허락을 받고 사용해야 할 개인정보를 AI 기업들이 무단으로 이용한 것도 문제가 되지만 최근엔 딥러닝 알고리즘을 통해 개인정보가 유출될 가능성이 있다는 지적도 나오고 있어. 구글, 딥마인드, UC버클리, 취리히 공과대학교, 프린스턴 대학교 연구진으로 구성된 공동 연구팀의 논문 자료인데, Stable Diffusion과 같은 모델들이 학습데이터에서 개별 이미지를 기억하고 있기 때문에 조절만 잘하면 학습데이터가 추출이 가능하다는 걸 밝혀냈거든.

논문을 살펴보면 모델에 특정한 입력값을 넣는 걸 반복하면 훈련 데이터 세트와 동일한 이미지가 100장이 넘게 생성되는 걸 확인할 수 있어. 이렇게 추출된 이미지에는 일반인들의 사진도 있고, 회사 상표 로고가 선명히 보이는 이미지들도 있었어. 즉, AI 시스템을 통해 원본 데이터가 추출이 가능하다면 개인정보를 추출하고 유출, 활용할 가능성도 있다는 거야.

코드 생산자의 저작권을 무시하고 학습한 Copilot, 이미지 저작권을 무시하고 학습한 Stable Diffusion 모두 현재 소송이 걸려있어. 개발자이자 변호사인 매튜 버터릭은 오픈소스 라이선스를 위반하고 프로그래머의 권리를 침해한 MS, 깃허브, OpenAI를 고소했어. 게티이미지는 자사의 유료 이미지를 Stable Diffusion이 무단으로 학습했다는 이유로 소송을 걸었지. 딥러닝 모델을 통해 학습데이터가 추출이 가능하고, 그 중에 개인정보가 포함되어 있었다는 논문이 나온만큼 AI 기업들의 상황이 좋아보이진 않아. 앞으로 어떤 결과가 나올지 마부뉴스가 쭉 지켜볼게.

생성형 AI는 우리의 삶을 변화시키고 있어. 하지만 기술 발전과 함께 작가의 저작권 그리고 개인정보도 분명히 침해가 되는 상황이야. 기술 발전과 저작권과 개인정보 보호 모두가 함께 살아남기 위한 제도적 뒷받침이 필요해 보여. 법적으로 제작자를 보호하고, 그걸 어기는 기업에게는 철퇴를 가하는 식으로 시스템이 갖춰져야 할 거야. 저작권을 무시하고 무단으로 음악을 들을 수 있었던 냅스터와 소리바다가 이제는 구시대의 유물이 되었잖아. 누구든지 돈을 내고 스포티파이와 아이튠즈, 멜론을 통해 음악을 듣는 오늘날. AI가 학습할 데이터라고 그러지 않을 법이 없는 것 아닐까 싶어.

오늘 준비한 마부뉴스는 여기까지야. 오늘은 생성형 AI와 관련된 저작권과 개인정보 이슈를 다양한 데이터를 통해 알아봤어. 구독자가 생각하기에 기술 발전과 규제 그 사이의 균형추는 어느 쪽으로 가야 한다고 생각해? 우리 삶이 편리해지는 만큼 생성형 AI의 규제를 풀어주고 기술 발전에 속도를 내야 할까? 아니면 기술발전도 중요하지만 저작권과 개인정보에 대한 보호가 우선일까? 독자의 생각이 궁금해. 아래 링크를 통해 의견을 남겨줘! 오늘도 끝까지 긴 글 읽어줘서 정말로 고마워!

참여하기

* 레터에 활용한 데이터와 기사들의 목록은 여기서 볼 수 있어.

* 함께 고민하고 싶은 친구가 있다면 이 링크를 공유해줘.

지난 주 낙서장 주제는 <가장 좋아하는 계절>이었어! 꽃이 피어나는 봄🌸, 밤에도 산책하기 좋은 여름🌛, 하늘과 단풍이 예쁜 가을🍁, 그리고 붕어빵과 귤이 있는 겨울🍊까지 많은 구독자들이 그림을 남겨주었어! 개인적으로는 겨울도 좋지만 날씨가 따뜻해지고 있다는 것이 반가워. 겨우내 잠들어 있던 수많은 생명이 움트는 봄을 맞이하고 있는 만큼 이번 주 낙서장 주제는 ‘좋아하는 동물’이야. 많은 참여 부탁해!

낙서장 GO!

60초 안에 이번주 마부뉴스에서 다룬 주제와 관련한 쓸모있는 정보 7개를 골라서 요약해드립니다. 매주 7/60만 꼼꼼히 살피면 상식왕은 시간문제!😉 제목을 누르면 기사 페이지로 이동합니다.

You against the machine: Can you spot which image was created by A.I.?

한빛미디어 박태웅 의장은 인공지능이 생성한 이미지가 전체 이미지의 절반을 차지하는데 2년이 걸리지 않을 것이라고 언급한 적 있어. 그만큼 인공지능이 생성한 컨텐츠가 많은 가운데, 과연 우리 독자들은 무엇이 진짜이고 무엇이 만들어진 것인지 구분할 수 있을까? 사람이 찍은 사진과 인공지능이 만든 사진 중 무엇인지 맞혀보는 퀴즈야.

Exposing.ai

Face Recognition 알고리즘을 훈련하는데 사용되는 데이터셋 28개를 분석하는 웹사이트야. 각 데이터셋의 전체 크기와 표정이나 국적 식별 등 어떤 용도로 사용되는지는 물론 어떤 국가에서 어떤 목적을 가지고 사용되고 있는지 알려줘. 그 뿐 아니라 각 데이터셋에 올라온 사진 중 몇 장이 flickr.com이라는 사진 커뮤니티에서 가져온 것인지 또한 볼 수 있어.

AI-Created Images Aren't Protected By Copyright Law According To U.S. Copyright Office

이미지를 만드는데 사용된 프롬프트는 인간이 입력하지만 최종적으로 이미지가 어떻게 표현될 것인지는 인공지능이 결정하므로 인간을 저자로 보기 어려워
인공지능에 의해 만들어진 결과물이 다른 저작물과 유사도가 높을 경우 해당 저작물의 저작자의 권리 침해 등의 문제를 일으킬 수도 있어

The text-to-image revolution, explained

주어진 이미지에 캡션을 다는 기술이 먼저 발명되었으며, 이 과정을 반대로 해보자는 발상이 text-to-image 연구의 시초가 됨
이미지(각 픽셀의 rgb 값의 나열)와 캡션의 짝으로 이루어진 데이터셋을 받으면 알고리즘은 딥러닝을 통해 둘 사이의 수학적인 규칙을 찾아
이 규칙은 500개 이상의 매개변수를 가지며, 매개변수로 만들어진 고차원의 공간에 각 이미지가 위치해
프롬프트가 주어지면 알고리즘은 이 고차원 공간에서 알맞은 영역을 찾아 이미지가 될 픽셀들의 값을 지정해줌으로써 그림을 생성
이 과정의 무작위성 때문에 같은 이미지가 두 번 생성될 가능성은 아주 작으며, 서로 다른 알고리즘은 서로 다른 매개변수를 사용하기 때문에 같은 프롬프트를 주어도 다른 이미지 생성

Now That Machines Can Learn, Can They Unlearn?

전체 시스템의 성능을 해치지 않으면서 특정 인물이나 데이터의 흔적을 모두 삭제할 수 있는지 연구하는 ‘머신 언러닝’ (machine unlearning)
머신러닝을 통해 빌드된 알고리즘은 일단 만들어지면 개발자들조차 수정은커녕 이해하기도 어렵기 때문에 지금까지는 이를 위해서는 아예 알고리즘을 처음부터 다시 설계해야 했어
미 연방통상위원회(FTC)는 동의 없이 사용자들의 사진을 이용해 얼굴 인식 알고리즘을 개발한 회사에게 무단 학습에 사용된 데이터는 물론 이를 이용해 만들어진 알고리즘까지 삭제할 것을 요구하기도
사용된 데이터가 알고리즘에 의해 유출된 위험마저 있는 만큼 자신의 데이터에 대한 사용자들의 결정권이 존중받아야 한다는 인식이 퍼지고 있으며, 이에 따라 머신 언러닝에 대한 다양한 연구들이 진행 중

How AI-generated text is going to poison the internet

인공지능이 생성한 컨텐츠에는 거짓 정보가 포함되어 있기도 해 건강 정보나 선거 등 중요한 사안에 잘못 사용되면 부정적인 결과 초래할 수 있어
이런 거짓된 인공지능 생성 데이터가 다시 학습 데이터로 수집되면 편견과 오류가 더욱 강화될 것
시간이 흐를수록 질 좋은 학습 데이터 수집이 어려워질 것이며, 이는 텍스트뿐 아니라 이미지 또한 마찬가지인 상황

진짜보다 나은 '가짜' 데이터로 AI에 연료 공급

인공지능의 학습 데이터가 편향될 경우 시스템의 성능에 영향을 줄 수 있어. 예를 들어, 백인이 주를 차지하는 데이터로 학습한 자율주행 자동차는 흑인 보행자를 잘 인식하지 못하여 사고로 이어질 수 있어
이를 보완하기 위해 인간이 수집한 데이터와 함께 소프트웨어가 생성한 합성 데이터 이용해 보다 포괄적이고 편향성 적은 데이터셋 만들어 인공지능 훈련
가정에 침입자가 발생하는 등 재난과 범죄 데이터와 같이 수집이 어려운 데이터의 경우 보완의 필요성이 높아
2024년까지 전체 AI 데이터의 60%가 합성 데이터가 차지할 전망