최근 소셜 미디어 플랫폼 X(구 트위터)와 일론 머스크의 AI 기업 xAI가 개발한 대화형 AI ‘Grok’이 심각한 윤리적, 법적 문제의 중심으로 떠올랐습니다. 프랑스 파리 검찰청 사이버 범죄수사대는 유럽연합 경찰기구(유로폴) 및 프랑스 경찰과 공조하여 X의 파리 사무실을 급습했으며, 지난 7월부터 Grok을 포함하여 확대된 조사에 착수했습니다. 이는 AI 시대에 플랫폼이 짊어져야 할 책임과 그에 대한 규제의 필요성을 극명하게 보여주는 사례가 될 것입니다.
X와 Grok, 국제적 법적 압박에 직면하다
이번 수사는 지난해 시작되어 Grok까지 확대되었으며, X와 Grok에 대한 여러 심각한 혐의를 포함하고 있습니다. 주요 혐의는 아동 성 착취물 소지 및 유포 방조, 홀로코스트 부정 콘텐츠와 관련된 ‘반인륜적 범죄 부인’, 알고리즘 조작 및 불법적인 데이터 추출 등입니다. 로이터 통신이 이전에 보도했듯이, 일론 머스크와 전 X CEO 린다 야카리노 또한 지난 4월 청문회에 소환된 바 있습니다. 이러한 국제적 수사망은 플랫폼이 단순히 기술을 제공하는 것을 넘어, 그로 인해 발생하는 사회적 폐해에 대한 적극적인 책임을 져야 한다는 강력한 메시지를 던지고 있습니다.
동시에 영국 정보위원회(ICO)는 X와 xAI의 Grok이 ‘유해한 성적 이미지 및 동영상 콘텐츠를 생성할 잠재력’에 대해 별도의 공식 조사를 발표했습니다. 이는 영국 통신규제기관인 오프콤(Ofcom)이 진행 중인 또 다른 조사에 합류하는 것으로, 오프콤은 현재 xAI를 직접 조사하고 있지는 않지만, X가 법을 위반했는지 여부를 판단하기 위해 증거를 수집하고 분석 중이라고 밝혔습니다. 이 모든 조사는 xAI의 Grok이 생성한 비동의적 성적 딥페이크(nonconsensual sexualized deepfakes)가 X 플랫폼에 만연하며, X가 기능 제한을 주장했음에도 불구하고 몇 주간 문제가 지속되고 있다는 점에 기인합니다.
에디터의 시선: AI 윤리와 플랫폼 책임, 변곡점에 서다
이번 X와 Grok에 대한 대규모 조사는 AI 기술 발전의 이면에 숨겨진 윤리적 딜레마와 플랫폼의 사회적 책임에 대한 중대한 경고등으로 해석해야 합니다. 특히 생성형 AI, 그중에서도 Grok처럼 사용자에게 직접 콘텐츠를 생성하도록 하는 모델은 그 파급력이 엄청납니다. 비동의적 딥페이크와 같은 유해 콘텐츠는 개인에게 돌이킬 수 없는 피해를 줄 뿐만 아니라, 사회 전반의 신뢰를 훼손하고 민주주의 근간까지 흔들 수 있는 심각한 위협입니다.
일론 머스크가 표방하는 ‘자유로운 발언’의 가치는 중요하지만, 이는 법적, 윤리적 경계를 넘어서는 ‘무책임한 자유’가 되어서는 안 됩니다. AI 모델의 개발 단계부터 강력한 윤리적 가이드라인과 기술적 안전장치(Guardrails)를 마련하고, 유해 콘텐츠에 대한 사전 필터링 및 사후 모니터링 시스템을 고도화하는 것이 필수적입니다. 또한, 오픈소스 AI 모델의 확산이 가져올 수 있는 잠재적 위험에 대한 심도 있는 논의와 국제적인 협력 기반의 규제 프레임워크 구축이 시급합니다.
이번 사태는 비단 X와 Grok만의 문제가 아닙니다. 모든 AI 개발 기업과 플랫폼 제공자들에게 ‘AI 윤리’는 더 이상 선택 사항이 아닌, 비즈니스의 지속 가능성을 결정하는 핵심 요소가 될 것임을 강력히 시사합니다. 규제 당국이 점차 AI의 잠재적 위험에 대한 이해를 높이고 있으며, 기술 기업들은 기술 혁신과 동시에 사회적 책임을 다해야 하는 새로운 시대적 요구에 직면해 있습니다. 앞으로 AI 기술의 진보와 더불어, 이를 통제하고 윤리적으로 활용하기 위한 사회적 합의와 규제의 발전 속도가 더욱 중요해질 것입니다.