평범한 일상 속에서 인공지능(AI)의 그림자가 어떻게 우리를 속이고, 결국에는 우리가 사랑했던 디지털 공간마저 변질시키는지 보여주는 사례가 등장했습니다. 캘리포니아에 사는 케이틀린 존스 씨는 5년간 매주 핀터레스트에서 아들을 위한 레시피를 찾아왔습니다. 그러던 지난 9월, 그녀는 크리미 치킨과 브로콜리 슬로우쿠커 레시피를 발견하고 재료를 구매했습니다. 하지만 요리를 시작하려던 순간, ‘치킨을 슬로우쿠커에 ‘로그인’하라’는 낯선 지시를 보고 의아함을 느꼈습니다. 레시피 블로그의 ‘About’ 페이지를 클릭했을 때, 완벽하게 아름다운 외모의 여성이 나타났고, 존스 씨는 그제야 모든 이미지가 AI로 생성되었다는 사실을 깨달았습니다. 내용은 모호하고 평범했으며, 레시피는 형편없었습니다. 물기 많고 밋밋한 닭고기는 그녀에게 끔찍한 경험을 선사했습니다.
분노한 존스 씨는 핀터레스트 서브레딧에 “사람들이 사랑했던 진정성 있는 핀과 사람들을 핀터레스트가 잃어가고 있다”고 토로했습니다. 이러한 저품질의 대량 생산된 AI 생성 콘텐츠는 ‘AI 슬롭(AI slop)’이라 불리며, 영상, 책, 소셜 미디어 게시물 등 인터넷 전반을 오염시키고 있습니다. 코넬 테크의 알렉시오스 만차리스 이사는 이를 “억지로 먹여지는 맛없는 죽”에 비유하며, 구글 검색으로도 존재를 찾을 수 없는 ‘수잔 손(Souzan Thorne)’ 같은 AI 생성 인물은 빙산의 일각에 불과하다고 지적했습니다.
플랫폼을 좀먹는 ‘AI 슬롭’과 ‘엔시티피케이션’
만차리스 이사는 모든 플랫폼이 이제 AI 생성 콘텐츠를 ‘뉴 노멀’로 받아들이고 있으며, 이는 전체 콘텐츠 생산량의 엄청난 부분을 차지하고 있다고 말합니다. 2010년 ‘아이디어를 찾는 시각적 발견 엔진’으로 시작하여 광고 없이 크리에이터 커뮤니티를 구축했던 핀터레스트는 이제 5억 명 이상의 활성 사용자를 보유하게 되었습니다. 그러나 일부 사용자들은 최근 피드가 완전히 다른 세상처럼 변질되었다고 불평하고 있습니다.
핀터레스트는 주로 이미지 기반의 플랫폼이기에 영상 중심의 사이트보다 AI 슬롭에 더욱 취약합니다. 사실적인 이미지는 AI 모델이 영상보다 쉽게 생성할 수 있기 때문입니다. 또한, 핀터레스트는 사용자를 외부 사이트로 유도하는데, 이러한 외부 클릭은 콘텐츠 팜(Content Farm)이 온사이트 팔로워보다 수익화하기 훨씬 용이한 구조를 가지고 있습니다. 사용자에게는 저품질 콘텐츠를 제공하면서도, 플랫폼은 더 많은 광고 수익을 얻으려는 비즈니스 모델로 변모하고 있는 것입니다. 이는 미국의 유명 비평가 코리 닥터로우가 제시한 ‘엔시티피케이션(Enshittification)’이라는 개념과 정확히 일치합니다. 플랫폼이 사용자에게는 가치를 줄이고, 광고주에게는 더 많은 가치를 제공하며, 결국 플랫폼 자체의 가치를 떨어뜨리는 현상 말입니다.
에디터의 시선
케이틀린 존스 씨의 사례는 단순한 레시피 실패를 넘어, AI 시대의 디지털 플랫폼이 직면한 근본적인 위기를 적나라하게 보여줍니다. ‘AI 슬롭’의 확산은 인터넷의 ‘신뢰’와 ‘진정성’이라는 핵심 가치를 위협하고 있습니다. 플랫폼이 당장의 트래픽과 광고 수익이라는 달콤한 유혹에 빠져 AI 생성 콘텐츠의 물결을 제대로 걸러내지 못할 때, 그 결과는 사용자 이탈과 함께 플랫폼 생태계 전반의 황폐화로 이어질 수밖에 없습니다.
기술적 관점에서 볼 때, AI가 생성한 이미지는 날이 갈수록 현실과 구별하기 어려워지고 있습니다. 이는 핀터레스트와 같이 시각적 요소가 중요한 플랫폼에 치명적인 약점으로 작용합니다. AI가 생성한 콘텐츠를 자동으로 식별하고 필터링하는 기술은 지속적으로 발전하고 있지만, 동시에 AI 생성 기술 또한 고도화되고 있어 탐지와 회피의 악순환이 반복될 가능성이 높습니다. 결국, 이는 기술적인 해결책만으로는 부족하며, 플랫폼 운영자들의 윤리적 책임감과 비즈니스 모델의 재정립이 필수적임을 시사합니다.
저는 이번 핀터레스트 사례가 단순한 해프닝으로 끝나서는 안 된다고 생각합니다. 이는 미래 디지털 경제에서 콘텐츠의 가치, 플랫폼의 역할, 그리고 AI 기술의 방향성에 대한 중요한 질문을 던지고 있습니다. 사용자들은 이제 ‘진정성’과 ‘신뢰성’을 새로운 콘텐츠의 기준으로 삼을 것입니다. 플랫폼들은 단기적인 수익성만을 좇아 ‘엔시티피케이션’의 길을 택할 것인지, 아니면 사용자 경험과 신뢰를 최우선 가치로 삼아 지속 가능한 생태계를 구축할 것인지 중대한 기로에 서 있습니다. ‘AI 슬롭’이라는 디지털 쓰레기가 인터넷을 가득 채우기 전에, 우리 모두가 진지하게 고민해야 할 시점입니다.