💟 (광고) '틱톡'에서 더 제대로 보고 제대로 즐겨주세요

한 번쯤 SNS에서 연예인이 홍보하는 주식이나 코인 광고를 본 적이 있으시죠? 너무나 진짜 같은 그 광고들은 알고 보니 AI로 만든 가짜뉴스였고, 이 때문에 피해를 본 사람들도 적지 않았습니다. 이는 비단 우리나라뿐만 아니라 미국에서도 큰 이슈가 되고 있는 문제입니다.

한때 "눈에 보이는 것을 믿어라"는 말이 진리처럼 여겨졌던 시절이 있었습니다. 하지만 이제는 눈에 보이는 것조차도 쉽게 믿을 수 없는 세상이 되었습니다. 디지털 기술의 발전이 우리의 일상을 편리하게 만들어주는 동시에, 이러한 신뢰의 위기를 불러일으킨 것입니다.

하지만 규칙보다 기술은 더 빠르게 발전하고 있고, 사용자들이 이런 콘텐츠를 직접 가려내는 일은 점점 더 어려워지고 있습니다. 기술은 나날이 정교해지고 발전하지만, 우리에게는 몇 초 만에 진위를 밝혀낼 수 있는 능력이 없습니다. 그렇기에 플랫폼의 정책과 노력이 점점 더 중요한 역할을 하게 되었습니다.

국회가 법을 발의하고, 사회 각계각층에서 해결책을 촉구하기 전부터 노력해 온 플랫폼이 있습니다. 바로 틱톡입니다. AI로 생성된 가짜뉴스의 위험성에 대해 미리 인지한 틱톡은 지난 2020년부터 합성 미디어 관련 정책을 만들고, 2023년부터는 AI가 생성한 콘텐츠에 AI 콘텐츠를 인식할 수 있는 라벨을 붙이기 시작했습니다. 크리에이터가 콘텐츠를 올릴 때, 해당 콘텐츠가 AI 기술로 제작되었다면 이를 체크하도록 권장하고, 그렇게 표시된 라벨은 사용자들에게도 명확히 노출됩니다.

현재 틱톡이 진행 중인 ‘제대로 보고 제대로 즐기자’ 캠페인은 AI 콘텐츠의 위험성과 더불어 틱톡 AI 라벨의 유용성을 동시에 보여주고 있습니다. SBS 전 아나운서 박선영이 진행하는 뉴스 속보는 한강이 얼어서 북극곰이 출몰한다는 소식을 담고 있는데, 처음부터 끝까지 AI로 생성된 콘텐츠였습니다. 이 캠페인 광고는 경각심을 일깨움과 동시에 이런 허위 정보에 오도되지 않도록 돕는 틱톡 AI 생성 콘텐츠 라벨에 대해 알려줍니다.

틱톡은 콘텐츠 자격증명 기술을 도입한 최초의 플랫폼이기도 합니다. 타 플랫폼에서 만들어진 AI 콘텐츠가 틱톡에 업로드될 때, AI 생성 여부를 확인하여 자동으로 AI 생성 라벨을 붙여주는 기술입니다. 이를 통해 사용자들은 콘텐츠의 출처와 진위를 한눈에 파악할 수 있어 틱톡의 노력이 돋보이는 대목입니다.

틱톡은 'AI 생성' 라벨 여부와 관계없이, 오해의 소지가 있는 유해 AI 생성 콘텐츠를 단호히 금지하는 정책을 시행하고 있으며 AI의 진화에 발맞춰 사전 예방을 위한 탐지 모델을 개발하고, 전문가의 자문을 구하며 솔루션을 공유해 업계와 협업함으로써 유해 AI 생성 콘텐츠를 근절하기 위한 투자를 이어 나가고 있습니다.

특히 자라나는 아이들에게는 이러한 AI 콘텐츠에 대한 구별력이 더욱 요구될 것입니다. 그래야만 AI 생성 콘텐츠를 악용하여 의도적으로 타인을 속이려는 시도로부터 안전해질 수 있습니다. 틱톡과 전문가들이 협업해서 진행하는 이러한 미디어 리터러시 캠페인이 전달하고자 바와 같이, AI 생성 콘텐츠와 허위 정보를 식별하고 비판적인 사고를 할 수 있도록 모두가 노력해야 합니다.

AI 생성 라벨 확인을 작은 시작으로 디지털 시대에 필요한 새로운 면역력을 키우고 우리의 일상을 더욱 안전하게 만들어봅시다.

🥔 글로벌 뜨거운 감자, 텔레그램

🤔 야 이건 나도 좀

저는 그동안 미디어 (어플리케이션, 서비스, 콘텐츠, 디지털 기기 등)를 둘러싼 여러 논쟁에 있어서 상당히 높은 자유와 관용 혹은 욕먹을 자세를 속으로 취해왔습니다. 예를 들어, 선정적인 콘텐츠가 문제라는 기사에는 '그렇게 콘텐츠의 힘이 강력하다면, 광고만 보면 사람들이 제품을 사나?'라고 생각합니다. 미디어가 파편화되면서 사람들의 주의 집중 시간은 줄어들고, 그 짧은 시간 내에 설득하는 것은 너무나 어려워졌기 때문입니다.

어떤 가상 캐릭터의 2차 창작이 혐오적이라는 주장에 대해서는 '가상 콘텐츠의 인권이 중요하면 《존 윅》부터 검열하던지'라고 생각해왔습니다. 모든 가상 콘텐츠에 대한 똑같은 잣대를 들이대는 게 아니라면, 결국 본인의 기분이 중요한 게 아닌가라는 삐딱한 시선이었습니다. 게임 셧다운제에 대한 생각은 더욱 심했습니다. 여러 연구 결과를 보면, 가정환경과 학업 스트레스로 인해 게임을 탈출구로 쓰는 학생들이 많은데 게임을 막는 것이 대체 무슨 접근법인가라는 생각이 들었죠. 같은 식이면 차라리 성인 저녁 10시 이후 음주를 막는 게 사회 공리적으로 옳다라는 주장도 (속으로) 했습니다. 

😱 그래서 이제 우리 뭐함?

이쯤 되면 사회가 억제책을 고민할 차례입니다. 종합적으로 보면, 스마트폰과 SNS 등 디지털 침투율은 100%에 가까울 정도로 높아졌는데 이로 인한 부작용을 감내할 준비가 되어있지 않습니다. 특히 스스로를 법적으로 책임지지 못하고, 자아가 아직 형성 중인 10대 시절에는 이 위험이 더욱 큽니다. 여기까지 오면 대부분은 학교가 해결책이 될 것이라고 생각할 수 있지만, 저는 학교가 모든 것을 해줄 수는 없다고 생각합니다. 학생마다 다르겠지만, 일반적으로 학생들이 학교에서 보내는 시간은 24시간 중에 일부에 불과하며, 그 짧은 시간 동안 교사는 여러 학생을 동시에 관리해야 합니다. 구조적으로 불가능한 일이죠.

학교에서 모든 것을 책임질 수 없습니다. 교사는 아이의 핸드폰을 뒤져볼 수 없으며, 모든 것을 통제할 수 있는 위치에 있지 않습니다. 학교는 단순한 베이비시터 역할을 하는 곳이 아니라, 학생들이 기초 수학능력을 기르고 교우들과 관계 맺는 법을 배우는 하나의 사회입니다. 성이나 디지털 문제 등, 학생의 매우 사적일 수 있는 영역을 다루는 교육은 집에서 이뤄져야만 합니다. "술은 부모한테 배워야 한다"라는 한국 사회의 격언을 아주 좋게 해석하면, 부모에게서 엄격하게 술버릇을 배워야 한다는 뜻입니다.

디지털 교육도 마찬가지입니다. 무작정 디지털 기기를 쥐여 주기 전에 무엇이 옳고 그른지에 대한 교육이 필요하며 이는 필수적으로 부모가 해줘야만 하는 부분입니다. 실제로 보스턴 공중보건위원회에 따르면, 포르노그래피를 현실이 아닌 비판적으로 이해하는 능력을 키우는 교육을 받은 청소년들이 포르노의 해악을 이해하는 동시에 다양한 성적 표현 미디어에 대한 수용력이 높아졌다고 합니다.

오늘 저는 텔레그램으로 시작해 SNS, 그리고 디지털 기기의 유해성에 대해 말했으며, 이를 극복하기 위해선 가정교육의 대오각성이 필요하다고 주장하고 있습니다. 디지털은 가장 공개적인 동시에 사적인 공간입니다. 이 공간에 대한 이해가 부족한 10대는 피해자가 되거나 가해자가 될 수 있으며, 이는 분명히 사회가 만들어놓은 환경 때문일 겁니다. 그렇기에 이 환경을 고치기 위해선 가정교육이라는 기존의 시공간을 보장해 주는 사회적 대책이 필요합니다. 허울뿐인 캠페인 및 슬로건, 그리고 "학교에서 해주겠거니" 하는 책임을 방기하는 태도로서는 해결 못 할 겁니다.

오프닝토크6 | 런닝맨 - 스브스 공식 채널