여러분 AI 개발을 일시 중단해봅시다

3월은 휘몰아치는 AI의 달이었어요. 지난 달 14일, 챗지피티를 공개해 화제가 되었던 오픈AI는 가장 최신 버전의 AI 모델인 GPT-4를 출시했습니다. GPT-4는 미국 변호사 시험이나 생물 올림피아드, AP와 SAT 등 다양한 시험에서 우수한 성적을 얻었다고 하고요, 이전의 챗지피티보다 좀 더 안전을 기했다고 해요. 아직 공개되지 않은 기능이지만, 손으로 한 스케치를 웹사이트로 구현하는 것까지 해냈다고도 합니다.

그리고 일주일 뒤인 21일, 구글은 새로운 AI 챗봇인 Bard(이하 바드)를 미국과 영국의 제한된 사람들에게 공개했어요. 구글은 2015년부터 바드를 계속 개발해왔음에도 신중하게 공개 시기를 조정하고 있었는데요, 이번 챗지피티의 공개로 공개 시기를 앞당겼다는 분석이 많아요. 바드에 대한 반응은 폭발적이진 않았는데요, 그럼에도 구글의 CEO 순다 피차이는 뉴욕타임스 팟캐스트 하드포크에서 구글의 다양한 부분에 바드를 도입할 것이 기대된다고 밝히기도 했어요.

피차이는 같은 팟캐스트에서 빠르게 공개해야 한다고 이야기하는 쪽과 기술 공개에 신중해야 한다는 쪽 사이에서 위플래시와 같은 느낌을 받는다고도 이야기했는데요, 현재 테크 쪽에서는 AI 흐름을 잡을 수 있도록 빠르게 공개해야 한다는 흐름이 있다고 해요. 신뢰할 수 있는 AI(Responsible AI)를 만들고자 하는 팀과 학계에서는 이런 현상에 대해 우려를 표하고 있습니다.

비슷한 시기에 미국 비영리단체 ‘삶의미래연구소'(FLI)는 ‘거대 AI 개발을 일시 중단하자'라는 제목의 공개서한을 발표했습니다. 이 서한에서는 ‘GPT-4보다 강력한 모델에 대한 AI 시스템 개발을 적어도 6개월간 중단하자’며, ‘일시 중단하는 동안 AI 랩과 독립적인 전문가들이 외부 전문가의 감독하에 ‘고급 AI 설계 및 개발을 위한 프로토콜'을 공동으로 구현해야 한다’는 내용이 담겼습니다.

챗지피티가 정말 그렇게 대단할까요?

손실 압축이란 말 그대로, 압축 과정에서 원본에서의 정보가 일부 손실되는 압축 방식이에요. 그리고 아시다시피 이 아티클 제목에 있는 JPEG은 이미지 손실 압축 방식의 하나예요. jpg 확장자의 이미지를 크게 확대했을 때 화질이 떨어지는 경험을 다들 한 번쯤은 해보셨을 텐데요, ‘손실'이 있는 압축방식이기 때문에 전반적인 느낌만 비슷할 뿐 실제로 세부적으로 바라봤을 때는 원본 파일과 차이가 있을 수밖에 없습니다. 창은 JPEG처럼 챗지피티가 웹 텍스트에 대해 손실 압축을 한 형태에 불과하다고 이야기해요. 모든 디테일을 다 챙기지 못하기 때문에 어떤 질문엔 올바른 답변을, 어떤 질문에는 그럴듯한 오답을 한다고요.

JPEG은 이미지 형식이기 때문에 화질이 깨지는 것을 눈으로 확인하기 쉬운데요, 챗지피티는 텍스트 형식이기 때문에 이 부분을 확인하기가 어려워요. 거기에 챗지피티는 웹의 텍스트를 그대로 전달하는 것이 아니라 단어를 재구성해서 이야기하기 때문에 마치 챗지피티가 이해했다는 인상을 줍니다. 실제론 이해한 것이 아닌데도요. 챗지피티는 ‘공급이 낮다'가 ‘수요가 오른다'와 함께 자주 언급되면 둘이 관련이 있다는 것을 파악할 뿐, 경제학에서의 수요와 공급의 법칙을 완벽하게 이해한 건 아니거든요. 만약 수요와 공급의 법칙을 완벽하게 이해할 때에서야 챗지피티가 관련 웹 텍스트를 모두 대체할 수 있을 만큼 ‘무손실 압축'을 해냈다고 볼 수 있게 되는 거겠죠.

2월 초에 발행된 아티클이라 이미 많은 곳에서 언급되었는데요, 여기저기에서 동의와 비판의 이야기를 많이 해주셨더라고요. 특히 원문의 마지막 질문은 여러 가지 울림을 줍니다.

‘So just how much use is a blurry jpeg, when you still have the original?’ 

우리가 원본을 아직 볼 수 있는데, 흐린 JPEG 이미지가 얼마나 쓸모가 있을까?

창은 원본에서 훨씬 더 풍부한 정보를 얻을 수 있는 현재 상황에서 챗지피티가 유용할 수 있을까?를 의미하고 던진 질문인 것으로 보여요. 저는 아직 챗지피티가 나아가야 할 길이 멀다는 생각이 듦과 동시에 우리가 원본 파일이 있음에도 JPEG 파일을 쓰듯이 기술을 어떻게 쓰느냐에 따라서 유용성은 각자에게 다를 수 있겠다 싶더라고요. ‘AI는 모든 걸 가능케 한다'는 식의 만능주의는 지양해야겠지만요.

대신 ‘챗지피티로 작문의 시작점 도움을 받을 수 있는가?'에 대한 이야기는 마음에 많이 와닿았어요. 창은 많은 작가가 오리지널한(혹은 대단한) 글을 쓰기 전까지 매우 진부한 이야기들을 많이 쓴다고 이야기합니다. 그런데 이 진부한 이야기를 쓰는 과정은 쓸모없는 시간의 허비가 아니라, 더 좋은 글을 쓰기 위한 발판이 되기도 합니다. 또한 오리지널한 아이디어가 있더라도 글 퀄리티가 별로여서 고통받을 때도 있는데요, 오랜 시간 퇴고하면서 더 좋은 단어와 문장을 찾아가는 것이 더 좋은 글을 만들어준다고요. 글을 쓰면서 생각이 정리되기도 하고요. 과연 진부한 아이디어를 담은 시작점에서 좋은 글을 쓸 수 있는지 잘 모르겠다고 이야기합니다. 이는 어쩌면 최근 많은 분들이 강조한 ‘질문의 중요성'과도 연결될 것 같아요. 기술을 잘 활용하는 것이 결국 나의 오리지널한 아이디어에서부터 출발할 수도 있다는 거죠.

두려움과 잠재성을 공평하게 바라보자

챗지피티 및 GPT-4 개발사 오픈AI와 긴밀한 관계인 MS의 창업자인 빌 게이츠의 글, The Age of AI has begun 입니다. 첫 번째 문장이 아무 임팩트 있는데요 ‘내 인생에서 혁명적이라고 생각한 기술 시연은 두 번 있었다.’ 한 번은 GUI였고 두 번째는 AI였다고 해요. 현재 자선사업에 매진하고 있기 때문에 AI 기술이 어떻게 전 세계의 가난한 아이들을 구하고 좀 더 공평해질 수 있을지에 대해서 중점적으로 이야기합니다. 항상 느끼지만, 게이츠의 글은 매우 긍정적이에요. 위의 창의 글을 읽고 읽는다면 더더욱 그렇게 느껴질 거예요.

마지막 부분에서 게이츠는 ‘어차피 AI에 대한 공공 담론이 당분간은 많이 이루어질 것'이라고 하며 이런 대화를 할 때 세 가지 원칙에 주의해서 이야기하면 좋겠다고 이야기해요.

1. AI의 부정적인 면에 대한 두려움과 사람들의 삶을 개선할 수 있는 면을 함께 보려고 노력할 것. 새로운 기술이 많은 능력을 지닌 만큼 너무 두려움에만 매몰되진 말자는 의미로 받아들였어요.
2. 시장의 힘으로는 AI 제품과 서비스가 가난한 사람들을 돕게 만들 수 없기 때문에, 정부와 자선사업이 나서서 AI를 활용해 가장 큰 문제(즉, 전 세계의 보건과 교육)을 해결할 수 있도록 할 것.
3. AI의 발전은 이제 시작점에 있다는 것을 받아들일 것. 지금의 한계는 얼마 지나 사라질 수도 있으니까요.

저는 항상 긍정적인 것보다 부정적인 것에 주목하게 되더라고요. 게이츠의 원칙을 보면서 조금 더 입체적으로 생각해보는 게 중요하겠다고 다시 한번 다짐하게 되었어요. 3번에 대한 이야기가 더 와닿았던 것이, 창의 글에서 챗지피티는 다섯 자리 숫자의 사칙연산에 오류가 많다고 이야기한 부분이 있는데, 지금은 전혀 오류가 없다고 하네요! 기술은 정말 빠르게 발전할 수 있고, 그렇다면 빠르게 한계와 방향성을 잡는 것이 더 중요할 수도 있겠습니다.

AI는 우리 상상보다 더 이상할 것이다

위 둘과 또 조금은 다른 방향의 아티클인데요, 짧지만 재미있었어요. Semafor에서 발행된 AI will be weirder than we can imagine 입니다.

1733년 새뮤얼 매든이라는 한 아일랜드 성직자가 1733년에 출판한 책 ⟪20세기 회고록(Memoirs of the Twentieth Century)⟫은 1997년에서 쓴 편지가 발견되는 형식의 사변 소설이라고 해요. 무려 250년이나 지난 미래를 매든은 어떻게 상상했을까요? 재미있게도 매든이 생각한 1997년에서 기술적인 진보는 거의 없었다고 해요. 가장 큰 메시지는 가톨릭교회가 세계의 대부분을 통제할 수 있다는 것이었지만, 실제의 1997년은 1733년엔 상상할 수 없었을 정도로 많은 일들이 일어났죠.

최근 AI 관련 이슈는 뉴스를 뒤덮으면서 검색엔진이나 코딩 방식, 예술까지도 광범위하게 영향을 미치고 있어요. 허위 정보에 기반한 가짜뉴스를 유포하기도 하고요. 하지만 아마도 미래의 AI는 현재 우리가 예측하고 걱정하는 것보다 훨씬 더 이상할 거예요. 아마 미래의 우리는 ‘2023년에 챗지피티가 나왔을 때 별것도 아닌 걱정을 했더랬다~’ 라고 얘기하고 있을지도 모른다는 거죠. 그렇다면 지금 우리가 이야기하는 AI 기술의 한계와 두려움을 조금 더 확장해 생각할 필요가 있겠다는 요지의 이야기입니다.

지금의 뉴스들을 따라가다 보면 이 AI에 대한 열광(hype)과 두려움이 동시에 생길 수밖에 없을 것 같아요. 저 역시도 마찬가지인데요, 가끔은 멈춰서 생각해보고 상상해보고 하면 좋을 것 같다는 생각이 들더라고요. 10년 뒤, 20년 뒤 우리는 AI를 어떻게 활용하고 있을까요? 어쩌면 스마트폰이 우리 신체의 일부처럼 느껴질 만큼 필수적으로 변한 것처럼, AI란 말 자체를 쓰지 않을 정도로 삶에 녹아버릴지도요.

돌돌콩 | 최선을 다했지만 실패한 당신에게 들려주고픈 이야기