완벽한 알고리즘의 역설: ‘AI 슬롭’의 습격

생성형 AI가 바꾼 콘텐츠와 디자인 생태계,
플랫폼 대응부터 인간의 역할까지

AI 슬롭(AI slop)이란?
생성형 AI로 빠르고 대량 생산된 저품질 콘텐츠를 비판적으로 부르는 표현입니다.

예를 들어, AI가 만든 결과물을 그대로 사용해 글자가 깨져 있거나, 이미지 속 구조가 비현실적이며, 메시지와 디자인의 맥락이 맞지 않는 경우 ‘AI 슬롭’이라고 비판할 수 있습니다.

▷ 출처 – © DIGITAL iNSIGHT 디지털 인사이트

AI를 사용했다고 끝이 아니다
시프트업 ‘AI 슬롭’ 논란이 던진 질문

최근 시프트업의 게임 홍보 영상 논란은 생성형 AI 시대에 기술의 활용과 콘텐츠의 완성도는 별개의 문제라는 점을 보여줍니다.
AI를 사용했다는 사실 자체가 아니라, 결과물에 담겨야 할 판단과 검수가 부족했다는 점입니다.

▷ 출처 – ‘워너 비 인 러브’ 시프트업

시프트업의 홍보 영상 역시 캐릭터의 얼굴과 체형, 의상 질감이 장면마다 달라지고, 음식과 사물, 글자가 비정상적으로 표현되는 등 생성형 AI 특유의 오류가 드러났다는 비판을 받았습니다. 그러나 이용자들의 반발은 단순히 화면이 어색하다는 데 그치지 않았습니다. 영상 속 여러 장면이 게임의 세계관이나 캐릭터, 음악과 어떤 관계를 맺고 있는지 이해하기 어렵다는 점도 문제로 지적됐습니다.

이는 AI 콘텐츠의 품질을 판단하는 기준이 단순한 기술적 완성도에만 있지 않다는 것을 보여줍니다. 관련 연구에서도 이용자는 화면의 왜곡뿐 아니라 비정상적인 객체, 일관되지 않은 서사와 논리적 맥락의 부재에 부정적으로 반응하는 것으로 나타났습니다. 특히 콘텐츠의 앞뒤가 자연스럽게 연결되고 하나의 맥락으로 이해되는지가 신뢰 형성에 중요한 영향을 미치는 것으로 분석됐습니다.

▷ 출처 – ‘워너 비 인 러브’ 시프트업

결국 이러한 논란은 AI가 인간의 역할을 완전히 대신할 수 없다는 사실을 다시 한번 보여줍니다. AI는 아이디어를 빠르게 시각화하고 콘텐츠 제작과 반복 작업의 속도를 높일 수 있습니다. 그러나 무엇을 만들지, 누구에게 전달할지, 어떤 감정과 메시지를 담을지는 여전히 인간의 기획과 판단이 필요한 영역입니다. 기술이 발전할수록 오히려 아트 디렉션과 전략, 그리고 최종 결과물에 대한 검수와 책임의 중요성은 더욱 커지고 있습니다.

이번 사례가 디자인과 콘텐츠 산업 전반에 던지는 메시지는 분명합니다. AI 시대에 중요한 것은 얼마나 빠르게 콘텐츠를 만들어내는가가 아닙니다. 누구나 몇 초 만에 이미지를 만들 수 있는 환경에서 경쟁력을 결정하는 것은 결국 어떤 질문에서 출발했는지, 어떤 관점으로 결과물을 이끌었는지, 그리고 끝까지 인간의 판단으로 완성도를 책임졌는지에 달려 있습니다.

AI는 훌륭한 제작 도구가 될 수 있습니다. 그러나 방향을 정하고, 맥락을 만들고, 의미를 부여하는 일까지 자동으로 해결해주지는 않습니다. AI가 콘텐츠를 생성하는 시대일수록, 인간에게는 더 나은 질문과 판단, 그리고 더 엄격한 검수가 요구됩니다. 이번 시프트업의 AI 슬롭 논란은 바로 그 경계를 보여준 사례로 남을 것입니다.

‘AI 슬롭’ 대응책? 소셜 플랫폼마다 전략 다르다

△ 링크드인의 AI 콘텐츠 비율이 40%에 이르는 것으로 나타남

팽그램의 분석에 따르면 주요 소셜미디어 플랫폼의 장문 게시물 가운데 약 25%가 AI로 생성된 것으로 나타났습니다. AI 콘텐츠의 범람은 이제 단순한 품질 문제를 넘어 플랫폼의 신뢰와 사용자 경험을 위협하는 문제로 떠오르고 있습니다.

문제는 모든 플랫폼에서 AI 슬롭이 같은 방식으로 발생하지 않는다는 점입니다. 플랫폼의 알고리즘과 수익 구조, 이용자의 행동 방식에 따라 AI 콘텐츠가 확산되는 속도와 양상이 달라집니다. 따라서 대응 방식 역시 하나의 해법으로 설명하기 어렵습니다.

△ 링크드인 게시물 메뉴. ‘AI 슬롭(Seems like AI slop)’ 신고 버튼

대표적인 사례가 링크드인입니다. 꾸준한 콘텐츠 발행이 개인의 평판과 비즈니스 기회로 이어지는 구조 속에서 이용자들은 지속적으로 콘텐츠를 생산해야 한다는 압박을 받습니다.

그 결과 생성형 AI에 의존하는 비율도 높아졌습니다. 링크드인은 AI 생성 콘텐츠의 노출을 줄이고, 사용자가 직접 ‘AI 슬롭 같다’고 신고할 수 있는 기능을 도입하며 적극적인 규제에 나섰습니다.

틱톡 역시 조회수와 보상 중심의 구조 속에서 AI 슬롭이 확산된 사례입니다.

실제 글로벌 동영상 편집 플랫폼 캡윙(Kapwing)의 최신 연구 보고서에 따르면, 틱톡 신규 계정의 알고리즘 피드에 노출되는 영상의 59%가 AI 슬롭으로 분류되는 것으로 나타났습니다. 이는 유튜브와 비교해 약 3배 더 많은 수치입니다. 특히 애니메이션이나 음성 나레이션으로 만들기 쉬운 과학·교육·건강·역사 등 분야에서 AI 슬롭 비율이 높게 집계됐습니다.

AI로 만든 콘텐츠를 대량 배포해 조회수를 확보하는 콘텐츠 팜이 늘어나면서, 단순한 사용자 경험을 넘어 커머스 생태계의 신뢰까지 위협받고 있습니다. 이에 틱톡은 허위 계정 삭제와 AI 콘텐츠 표시, 워터마킹, 판매 콘텐츠 규제 등 기술과 정책을 동시에 강화하고 있습니다.

△ 레딧 게시물 내 댓글의 98.1%는 사람이 작성했다

반면 서브스택과 레딧은 다른 방식으로 AI 슬롭을 억제하고 있습니다. 서브스택은 창작자와 독자가 직접 연결되는 유료 구독 구조를 기반으로 합니다. 콘텐츠의 품질이 떨어지면 독자는 구독을 취소할 수 있기 때문에, 창작자에게는 신뢰를 유지해야 할 분명한 이유가 생깁니다. 이처럼 경제적 관계와 신뢰가 AI 슬롭을 억제하는 장치로 작용합니다.

레딧에서는 커뮤니티의 자율성이 중요한 역할을 합니다. 각 커뮤니티는 자체적인 규칙을 만들고 AI 생성 콘텐츠를 제한하거나, 추천과 비추천 시스템을 통해 저품질 콘텐츠를 걸러냅니다. 오랜 시간 쌓인 사용자 간의 경험과 맥락 역시 획일적인 AI 콘텐츠가 쉽게 자리 잡기 어렵게 만드는 요소입니다.

이처럼 플랫폼의 대응 방식은 크게 두 방향으로 나뉩니다. 조회수와 노출 경쟁이 강한 플랫폼에서는 기술적 탐지와 정책적 규제가 중요합니다. 반면 창작자와 독자, 또는 커뮤니티 구성원 사이에 신뢰 관계가 형성된 플랫폼에서는 이용자 스스로 콘텐츠의 품질을 관리하는 힘이 작동합니다.

결국 AI 슬롭 문제는 단순히 ‘AI 콘텐츠를 어떻게 걸러낼 것인가’의 문제가 아닙니다. 더 근본적으로는 ‘어떤 플랫폼 구조가 저품질 콘텐츠의 대량 생산을 유도하고, 어떤 구조가 좋은 콘텐츠를 남게 하는가’에 대한 질문입니다.

생성형 AI로 콘텐츠 생산 비용은 앞으로도 계속 낮아질 것입니다. 따라서 플랫폼의 경쟁력 역시 더 많은 콘텐츠를 생산하고 유통하는 데서만 결정되지는 않을 것입니다.

AI 콘텐츠가 넘쳐나는 시대일수록 중요한 것은 콘텐츠의 양보다 신뢰의 질입니다. 결국 플랫폼의 경쟁력은 AI를 얼마나 적극적으로 활용하느냐가 아니라, 수많은 콘텐츠 속에서도 사용자가 믿고 머물 수 있는 환경을 어떻게 만들어가느냐에 달려 있습니다.

AI 시대, 디자인은 무엇으로 차별화되는가

생성형 AI는 디자인 산업의 생산 방식을 빠르게 바꾸고 있습니다. 이미지와 영상, 콘셉트 시안까지 짧은 시간 안에 만들어낼 수 있게 되면서 디자인의 속도와 효율은 크게 높아졌습니다. 하지만 결과물이 넘쳐날수록 역설적으로 비슷한 이미지와 표현도 빠르게 늘어나고 있습니다.

AI가 만들어내는 완벽하고 매끄러운 결과물이 반복되면서, 사람들은 점차 피로감을 느끼기 시작했습니다. 이에 따라 디자인에서는 오히려 인간의 손길과 시간, 불완전함에서 비롯되는 고유한 감각과 진정성이 다시 주목받고 있습니다.

이 변화는 디자인의 경쟁력에 대한 질문으로 이어집니다. 과거에는 새로운 형태와 시각적 결과물 자체가 희소성을 만들었다면, 이제는 결과물보다 어떤 관점으로 문제를 발견하고, 어떤 과정을 거쳐 해결했는가가 더욱 중요해지고 있습니다. AI가 쉽게 복제할 수 있는 것은 결과물이지만, 그 과정에 담긴 사람의 경험과 판단까지 그대로 복제하기는 어렵기 때문입니다. 이는 희소성의 중심이 결과물에서 제작의 과정과 시간으로 이동하고 있다는 흐름을 디자인 산업 전반으로 확장해 해석할 수 있습니다.

그렇다면 AI와 인간은 경쟁 관계일까?

꼭 그렇지는 않습니다. AI는 아이디어를 빠르게 시각화하고 반복 작업을 줄이며, 분석과 생산성을 높이는 도구가 될 수 있습니다. 반면 인간은 무엇이 중요한 문제인지 발견하고, 사람과 사회의 맥락을 이해하며, 수많은 선택지 가운데 의미 있는 방향을 결정합니다. AI와 인간의 역할을 대립이 아닌 협업의 관계에 있습니다.

결국 AI 시대의 디자인 경쟁력은 더 많이, 더 빠르게 만드는 능력만으로 결정되지 않습니다. 기술이 생산을 담당할수록 인간에게는 질문과 판단, 경험과 감각의 역할이 더욱 중요해집니다.

AI가 모든 것을 만들 수 있는 시대, 디자인은 다시 가장 근본적인 질문으로 돌아갑니다.

무엇을 만들 것인가가 아니라, 왜 만들고 누구를 위해 만들 것인가.

앞으로 디자인을 차별화하는 힘은 더 완벽한 결과물이 아니라, 기술만으로는 쉽게 복제할 수 없는 인간의 관점과 선택, 그리고 그 과정에 담긴 이야기에서 나올 것입니다.

/예작기획