온라인에서 뭔가 봤을 때, 이런 생각 든 적 없으신가요? “음… 이거 왠지 AI 냄새가 나는데?” 맞아요, 그 쎄한 느낌! 글을 쓰거나 그림을 그리거나 아마추어 사진을 찍는 저 같은 사람들에게는 정말이지 등골 오싹한 순간이죠. 생성형 AI 기술이 너무나도 사람의 솜씨를 완벽하게 흉내 내는 세상이 되면서, 사람들은 이제 명백한 AI 콘텐츠에도 라벨을 붙이지 않는 플랫폼을 보면 자연스레 의심의 눈초리를 보내기 시작했습니다. 이젠 뭘 믿어야 할지 모를 지경인 거죠.
AI가 판치는 세상, 사람을 ‘인증’해야 한다?
여기서 저만의 독특한 결론 하나가 나옵니다. 아마도 이제는 우리가 만든 글, 이미지, 오디오, 비디오 같은 ‘사람의 작품’에 마치 공정무역(Fair Trade) 로고처럼, 전 세계가 알아볼 수 있는 ‘인간 인증’ 라벨을 붙여야 할 때가 아닐까요? 기계들은 자기들 작품에 라벨을 붙일 동기가 전혀 없겠지만, 자신의 자리가 위협받는 크리에이터들은 절박하게 원할 테니까요. 다행히 저만 이런 괴짜 같은 생각을 하는 건 아니더라고요.
인스타그램의 수장 아담 모세리도 작년 12월에 비슷한 의견을 내놨습니다. AI 기술이 발전해서 전문가가 만든 것처럼 시각적으로 구분 불가능한 콘텐츠를 만들게 되면, “가짜 미디어보다 진짜 미디어를 지문처럼 식별하는 게 더 현실적일 것”이라고 했죠. 검색 결과, 뉴스 기사, 소셜 미디어 피드까지, 인터넷의 온갖 곳이 AI가 만든 콘텐츠로 넘쳐난다는 인식이 광범위하게 퍼져있는 걸 보면 이 주장이 점점 더 설득력 있게 들립니다. 이젠 클릭과 좋아요, 그리고 돈 때문에 AI 작품의 출처를 숨기려는 움직임까지 있으니 말 다 했죠.
엉성한 ‘인간 인증’ 배지, 대혼란 속으로
물론 사람의 손길이 닿은 작품을 AI로부터 구별하려는 시도가 없었던 건 아닙니다. 메타(Meta) 플랫폼에서 이미 쓰고 있는 C2PA 콘텐츠 자격 증명 표준 같은 게 대표적이죠. 하지만 업계 전반의 지지를 받았음에도 불구하고, 그 구현은 지금까지 완전히 ‘무용지물’에 가까웠다는 게 냉정한 현실입니다. 왜일까요? 사람들이 AI 콘텐츠의 출처를 숨길 동기가 너무나 강하기 때문이죠. 결국 클릭, 혼돈, 그리고 돈이 문제인 셈입니다.
최근 몇 년 사이에 AI가 아닌 인간이 만들었다는 걸 증명하려는 수많은 솔루션들이 등장했어요. 마치 동네마다 다른 상표를 붙인 간판들처럼, 저마다 다른 기준과 인증 방식으로 ‘인간 인증’ 배지를 제공하고 있죠. 어떤 건 ‘작가의 길드’처럼 특정 분야에만 적용되고, 또 어떤 건 ‘Proudly Human’이나 ‘Not by AI’처럼 더 폭넓은 분야를 아우르려 합니다. 하지만 문제는, 이들의 검증 과정 자체가 AI 탐지 서비스만큼이나 의심스러울 때가 많다는 거예요. 어떤 서비스는 그저 ‘믿음’에 기반해서 누구나 배지를 다운받아 쓸 수 있게 하고, 또 어떤 서비스는 ‘육안 검사’나 신뢰하기 어려운 AI 감지 서비스를 사용하기도 합니다.
제가 살펴본 대부분의 서비스들은 결국 아주 고되고 원시적인 방법으로 돌아가더라고요. 바로 크리에이터가 스케치나 초안 같은 작업 과정을 ‘사람 감사자’에게 수동으로 보여주는 방식이죠. 마치 옛날 도제식 공방에서 장인이 직접 제자에게 기술을 가르치듯, 시간과 노력이 엄청나게 드는 일입니다. 하지만 안타깝게도, 기술적인 지름길이 없는 지금으로서는 이게 가장 믿을 만한 방법인 건 사실입니다.
‘인간이 만들었다’는 건 대체 뭘까?
가장 근본적인 질문은 바로 이겁니다. 대체 ‘인간이 만들었다’는 건 무슨 뜻일까요? 요즘은 너무 많은 창작 도구에 AI가 스며들어 있고, 심지어 교육자들도 AI 활용을 장려하고 있는데, 어디에 선을 그어야 할까요? UC 버클리 인간 호환 AI 센터의 조나단 스트레이 선임 과학자는 이렇게 말합니다. “문제는 정의와 검증이 될 겁니다. LLM과 아이디어를 논의한 뒤 수동으로 실행하는 것도 AI를 사용한 것으로 봐야 할까요? 그리고 창작자는 AI가 전혀 관여하지 않았다는 걸 어떻게 증명할 수 있을까요?” 마치 ‘유기농’ 라벨처럼, 명확한 규제와 기관이 필요하다는 거죠.
에디터의 시선
결국 이 문제는 단순히 기술적인 해결책을 넘어섭니다. 우리가 인터넷에서 정보를 접하고, 콘텐츠를 소비하는 방식 전반에 대한 신뢰의 위기죠. AI가 고도로 정교해질수록, ‘진짜 사람’의 흔적을 찾는 일은 보물찾기처럼 어려워질 겁니다. AI가 모든 것을 복제하고 대체할 수 있는 시대에, ‘사람의 손길’이 닿은 작품의 가치는 더욱 희소해지고 귀해질 거예요. 우리 사회는 이 근본적인 질문에 답할 준비가 되어 있을까요? 우리가 진정으로 원하는 건, 차가운 알고리즘이 뱉어낸 정보가 아니라, 따뜻한 사람의 온기가 담긴 이야기 아닐까요?