그런데 정작 일러스트 작가들은 걱정이 많은 요즘입니다. 그 이유는 창작물에 대한 AI 학습과 늘어나는 AI 일러스트레이션의 영향 때문인데요. 비록 그 시장은 꾸준히 성장해 왔을지 몰라도 생성형 AI가 가져온 변화로 인한 불안이 업계 전반에 자리한 것처럼 느껴졌습니다. 생성형 AI에 대한 이야기들은 그동안 어거스트를 통해서도 종종 다루어 왔기에 구독자 여러분도 익숙하리라 생각하는데요. 오늘 레터는 창작자의 관점에서 생성형 AI의 학습 이슈에 대해 다뤄봅니다.

💨 플랫폼을 떠나는 사람들

생성형 AI의 부상과 함께 가장 논란이 된 주제는 ‘AI가 학습한 데이터에 대한 저작권’과 ‘AI로 제작한 산출물에 대한 저작권’에 대한 것입니다. 후자에 대해서는 대체로 답이 명확한데요. 현행법상 ‘저작물’은 인간의 생각 또는 감정을 표현한 창작물을 의미하기에, 그 주체도 인간이 되어야 합니다. 그래서 AI로만 제작한 산출물은 저작권을 인정받을 수 없지만 사람의 기여가 있는 부분은 일부 인정을 받을 수 있다는 해석이 주입니다. 앞으로도 여러 사례와 함께 변화가 있겠지만 일단 현재까지는 그렇습니다.

그런데 문제는 ‘AI 학습 데이터’ 쪽입니다. AI가 산출물을 만들어내기 위해 지금까지 인터넷에 공개된 정말 방대한 자료들이 활용되었을 텐데요. 생성형 AI가 등장할 때부터 문제가 제기되었음에도 불구하고, 이러한 학습 데이터에 대한 저작권 이슈는 여전히 딱히 해결되거나 제대로 된 방안이 나온 듯한 상황은 아니에요. 이는 생각보다 너무 많은 갈래의 이해관계자가 걸려 있기 때문인데요.

이 문제에서 가장 큰 비중을 차지하고 있는 것은 소셜 미디어 플랫폼입니다. 지난해 말 미국 대선 이슈의 여파로 X 이용자들이 새로운 플랫폼으로 이주를 선택하면서 그 대안으로 블루스카이가 주목받고 있다는 것은 이미 많이들 알고 계실 거예요. X를 소유한 일론 머스크에 대한 반감, 그리고 도널드 트럼프의 재선과 연관된 정치적인 신념 문제가 이번 ‘엑소더스’의 주원인으로 꼽히고 있고요.

한편, 국내외 창작자들은 X를 떠날 이유가 따로 있었습니다. 바로 X의 자체 생성형 AI 기능인 ‘Grok’의 정책 변경 때문인데요. 2024년 11월 15일부터는 플랫폼 사용자의 동의와 상관없이 텍스트와 이미지 등의 미디어를 AI 학습에 활용할 수 있게 되었거든요. 프라이버시에 민감한 이용자뿐만 아니라 많은 창작자, 크리에이터, 특히 일러스트레이터들이 이러한 정책에 가장 크게 반발했고, X와 유사한 다른 플랫폼으로의 이주를 고민하는 유저들이 늘었습니다.

일반적으로 창작자들은 비핸스, 그라폴리오와 같은 포트폴리오 커뮤니티 외에도 팬들과 소통하기 위해 소셜 미디어를 적극 활용하고 있습니다. 그래서 X는 이용자 수 면에서 새로운 작품을 소개하고, 창작 관련 행사의 참가 소식을 홍보하기에 적합한 플랫폼이었어요. 인스타그램도 많이 활용되지만, 국내외 창작자 네트워크는 X에서 더 쉽게 접할 수 있고 실시간 소통도 더 활발하기 때문입니다. 

저 또한 국내 일러스트레이터 외에도 해외 작가들의 전시 소식이나 독립 서점 정보 등을 팔로업하기 위해 X에서 정보를 많이 찾아보곤 했었는데요. 이번 Grok 정책 변경 이슈로 인해 X 계정을 비공개로 전환하거나, 블루스카이에 이미지를 올린 후 URL을 공유하거나, 작품을 전체 이미지가 아닌 크롭 이미지로 업로드하는 등 창작자들의 혼란이 엿보였습니다. 무분별한 AI 학습을 반대하는 창작자들을 위한 커뮤니티 ‘Cara’가 새롭게 등장하며 가입 회원 수가 일주일 만에 4만 명에서 70만 명으로 급증했다고도 하고요.

플랫폼 이주와 더불어 AI 학습을 방해하기 위한 프로그램도 등장했습니다. 미국 시카고대에서 개발된 ‘나이트셰이드(Nightshade)’와 ‘글레이즈(Glaze)’는 생성형 AI가 창작자의 화풍을 모방할 수 없도록, 미세한 변형을 통해 AI가 학습을 제대로 할 수 없게 ‘독약’을 푸는 프로그램입니다. 사람이 보는 그림과 AI가 인식한 그림에 차이를 두게 만드는 것이 주요 작동 원리에요. 예를 들어 강아지를 그린 후에 사람에게는 보이지 않는 필터를 씌워 AI가 고양이로 인식하게 만드는 식으로 혼란을 주는 거죠.

AI 학습을 막기 위해서는 글레이즈와 같은 AI 학습 방해 프로그램이 지금까지 공개된 솔루션 중에서 가장 효과적이라고 하는데요. 필터를 적용하는 데 8시간 정도의 굉장히 긴 시간이 소요되다 보니 실제로 매번 활용하기는 어려운 상황이라고 해요. 그래서 간단하게는 창작물에 워터마크를 삽입하거나, 프로그램에서 제공하는 노이즈 필터로 조금이나마 변형을 가하는 형태들을 많이 선택하고 있고요. 하지만 이러한 ‘꼼수’마저 AI는 쉽게 극복할 것만 같습니다.

🤡 학습은 이미 끝났다

하지만 문제가 된 플랫폼을 떠나는 것만이 능사는 아닙니다. X의 동의 없는 학습을 피해 인스타그램이나 스레드를 활용한다는 선택을 할 수도 있겠는데요. META 또한 이미지 및 영상 생성 모델인 Emu(에뮤) 개발을 위해 그동안 페이스북과 인스타그램에 공개된 게시물을 모두 학습했다고 알려져 있어요. 많은 사람들이 도피처로 삼은 블루스카이조차 웹 크롤링의 가능성에서 자유롭지 않고요.

한편, 지난주에는 여느 해와 같이 미국 라스베이거스에서 CES 2025가 개최되었습니다. 《마이크로트렌드》 저자로 알려진 마크 펜(Mark Penn)과 일론 머스크가 현장에서 진행한 인터뷰가 최근 X를 통해 공개되었는데요. 이 인터뷰에서 일론 머스크는 ‘인공지능 훈련을 위한 학습 데이터가 이미 고갈되었음’을 인정했습니다. 이미 인간 지식의 총합은 모두 AI 훈련에 활용되었고, 이제는 AI가 만든 합성 데이터를 활용해야 한다고요.

이와 관련해 가장 먼저 떠오르는 것은 아무래도 AI 학습으로 인한 ‘환각(Hallucinations)’ 문제도 있겠지만, 지금의 상황에서 저는 ‘이미 인터넷상에 올라간 정보들은 모두 학습이 다 된 거나 마찬가지구나’라는 생각이 들었습니다. 비록 플랫폼 기업들은 학습 데이터의 '출처'를 명확히 밝히지 않고 있지만, 1991년 월드 와이드 웹(WWW)의 등장 이후로 인간이 생성한 모든 자료에 예외는 없는 거나 다름이 없으니까요.

그리고 거기에는 우리가 기억조차 하지 못하는 어떤 글과 그림들도 포함이 되어있다고 생각이 미치니 왠지 아찔해졌습니다. 단순히 창작을 업으로 하는 사람들만의 문제로 덮어둘 수는 없다는 경각심이 들었어요. 그동안에는 학습이 되었을 ‘가능성’으로 치부되었던 것들이 일론 머스크의 인터뷰로 더욱 확신하게 되는 순간이었습니다.

다시 창작자의 목소리로 돌아가 볼까요. 작년 10월 22일, 전 세계의 문화예술인 1만 3천 5백여 명은 ‘AI 훈련에 대한 입장(Statement on AI training)’이라는 성명과 함께 목소리를 냈습니다. 서명 리스트에는 작가 테드 창, 가즈오 이시구로, 배우 줄리앤 무어와 케빈 베이컨, 뮤지션 톰 요크 등의 유명 예술가뿐만 아니라 미국 음악가 연맹과 미국 배우 및 방송인 노조(SAG-AFTRA), 유럽 작가 위원회까지도 포함이 되어 있어요.

고작 한 줄짜리의 이 성명이 하고자 하는 말은 확고하고도 명백합니다. 플랫폼이 창작물을 무단으로 사용하는 것은 결국 창작자의 생계를 위협하는 중대한 문제라고요. 이 성명을 주도한 인물은 스태빌리티 AI 부회장 출신인 에드 뉴턴렉스(Ed Newton-Rex)인데요. 그는 AI 회사들이 사람의 창작물을 ‘학습 데이터’로 부르는 것 자체를 비판하고 있어요.

더불어 그는 현재 기업들이 데이터 학습을 위해 활용하는 ‘옵트 아웃(opt-out)’ 방식 또한 결국은 플랫폼 이용자가 아닌 데이터를 수집하는 회사에 유리한 정책이라며 의견을 표했어요. 사용자가 자신의 데이터에 대한 AI 수집을 명확하게 거부하지 않는 한 자동으로 데이터 학습이 진행되기 때문인데요. 이는 이번에 논란이 된 X뿐만 아니라, 메타와 링크드인 또한 모두 적용하고 있는 방식이기도 해요.

결국, 창작자들이 우려하는 것은 단순히 기술에 대체되는 문제가 아닙니다. 이미 너무 많은 정황이 보여준 바와 같이 이들의 창작물은 이미 AI의 학습 데이터셋에 활용되었고, 그 산출물은 제한 없이 사용되고 있으며, 그렇게 학습되기까지 그 창작물의 활용에 대한 대가를 정당하게 받지 못했어요. (그래서 플랫폼 대상으로 줄줄이 소송이 이어지고 있고요)

그런데 이러한 문제가 제대로 해결되지도 않은 채로 ‘AI도 예술가로 인정할 수 있는지’에 대한 논의가 이루어지고 있는 상황이니, 창작자들 입장에서는 인공지능에 창작물을 빼앗겼다는 인식을 가질 수밖에 없을 것 같아요.

⛳ 가야할 길은 멀지만

솔직하게 말하자면 이미 우리는 일상에서 AI를 여러 방식으로 활용하고 있습니다. 그래서 복잡한 저작권 문제에는 언뜻 무심해지기 쉬운 것 같아요. 지금 이 순간에도 생성형 AI는 광고 시안, 콘티 제작과 같이 제가 몸담은 마케팅 분야에서 활발히 쓰이고 있으니까요. 기존 레터에서 다양한 광고 캠페인과 Google Ads 솔루션 등의 사례를 통해 여러 차례 소개했지만, 상업적인 분야에서는 AI가 어느정도 그 파이를 차지했다고 볼 수 있습니다. (그리고 누군가는 일감을 잃었겠죠)

물론 AI가 그 자체로 창작의 싹을 자른다고만 볼 수는 없습니다. 2023년 9월에 출시된 어도비 파이어플라이(Firefly)는 ‘크리에이티브 조력자’로서 어도비 스톡과 개방형 라이선스 콘텐츠 등을 학습해 저작권 이슈에서 상대적으로 자유로운 것으로 알려져 있는데요. 그림과 영상 관련 워크플로우에 활용할 수 있는 툴을 내놓으며 창작자들의 작업 프로세스 가속화로 관심을 끌고 있어요.

그럼에도 불구하고 오늘 레터의 주인공인 개인 창작자들은 AI에게 마음을 열기 어렵습니다. 레터를 쓰다가 마음이 복잡해져 주변의 창작자들에게 의견을 물었는데, 대체로 ‘답을 알 수는 없지만 미래가 걱정되는 문제’로 느끼고 있더라고요. 국내 기업 및 기관과 협업하며 활발하게 활동하고 있는 현업 일러스트 작가분과 이야기 나눈 내용을 일부 공유합니다.

“인공지능이 잡다한 집안일을 해줄 줄 알았는데 그림을 그리고 있다니…(웃음)

 이런 상황에서도 굿즈 포장은 제 손으로 직접 하고 있다는 사실이 아이러니하게 느껴지네요.

관련 법안은 아직 요원한 것 같지만 컨텐츠에 AI를 활용한 경우에는 내용 표기가 의무화되는 등, 작품을 보는 사람에게 가치판단을 할 수 있는 정보가 명확하게 제공되면 좋겠어요.

 예술품이란 그 자체의 완성도도 중요하지만 결국은 사람이 어떤 생각을 가지고 만들었는지에 관심을 갖게 되는 거라고 생각하거든요.”

여러 현황을 살펴봤을 때, 아직 국내에서는 해외의 AI 반대 성명과 같이 집단적인 움직임이 크게 보이지는 않습니다. 생성형 AI의 기술이 너무 빠르게 변하고 있어서 제도적 아젠다가 다소 늦게 따라온다는 느낌도 있고요. 그래도 2024년 11월 문체부에서는 AI 제도 개선과 관련한 의견 수렴이 있었습니다. 계엄 사태의 여파로 늦어지는 것 같기는 하지만, 그 결과도 공개될 예정이라고 해요.

월레스와 그로밋: 복수의 날개 | 공식 예고편 | 넷플릭스