인공지능(AI) 기술의 선두 주자인 OpenAI가 차세대 AI 모델의 성능을 평가하기 위해 다소 파격적인 방법을 모색하고 있다는 소식이 IT 업계의 이목을 집중시키고 있습니다. WIRED 보도에 따르면, OpenAI는 서드파티 계약자들에게 현재 또는 이전 직장의 실제 업무 과제와 결과물을 업로드하도록 요청하고 있으며, 이는 인간 수준을 뛰어넘는 범용인공지능(AGI) 달성을 위한 중요한 단계로 간주되고 있습니다.
AGI 향한 여정: 실제 업무 데이터의 중요성
OpenAI는 AI 모델이 다양한 산업 분야의 인간 전문가와 비교하여 얼마나 잘 수행하는지 측정하기 위한 새로운 평가 프로세스를 9월에 시작했습니다. 이는 대부분의 경제적으로 가치 있는 작업에서 인간을 능가하는 AI 시스템, 즉 AGI를 달성하기 위한 진척도를 보여주는 핵심 지표라고 강조합니다. 이를 위해 OpenAI는 ‘실제 세상의 업무’를 AI 모델에 학습시키고 비교할 수 있는 인간 기준선(Human Baseline)을 마련하고자 합니다.
계약자들에게는 수 시간에서 수 일에 걸쳐 수행했던 복합적인 업무를 ‘과제’ 형태로 전환하여 실제 산출물(예: 워드 문서, PDF, 파워포인트, 엑셀, 이미지, 코드 저장소 등)을 제출하도록 요청하고 있습니다. 과제 요청 내용과 최종 결과물이라는 두 가지 요소를 모두 수집하며, 심지어는 실제 시나리오에 맞춰 제작된 ‘가상의 작업 예시’도 허용합니다. 이는 AI 모델이 단순히 정보 요약이 아닌, 실제 문제 해결 능력과 창의적 산출물을 얼마나 잘 만들어낼 수 있는지 측정하려는 의도로 풀이됩니다.
편리함 속에 숨겨진 치명적인 위험: 기업 기밀 유출
문제는 이 과정에서 발생할 수 있는 ‘데이터 보안 및 기업 기밀 유출’ 위험입니다. OpenAI는 계약자들에게 업로드하는 파일에서 기업 지적 재산(IP) 및 개인 식별 정보(PII)를 삭제하도록 지시하며, ‘Superstar Scrubbing’이라는 자체 도구를 통해 기밀 정보 제거에 대한 조언을 제공한다고 합니다. 그러나 이 지침만으로 민감한 정보의 유출을 완벽하게 막을 수 있을지는 의문입니다.
지적 재산권 전문 변호사 에반 브라운(Evan Brown)은 WIRED와의 인터뷰에서 이러한 대규모 기밀 정보 수집이 영업 비밀 침해(trade secret misappropriation) 소송으로 이어질 수 있다고 경고했습니다. 특히, 계약자들이 이전 직장의 문서를 제공할 경우, 익명화 작업을 거쳤다 하더라도 이전 고용주의 비공개 협약(NDA)을 위반하거나 영업 비밀을 노출할 위험이 있다는 지적입니다. 브라운 변호사는 “AI 연구소는 계약자들이 무엇이 기밀이고 무엇이 아닌지 판단하는 데 많은 신뢰를 보내고 있습니다. 만약 무언가가 유출된다면, AI 연구소가 정말로 영업 비밀 여부를 판단할 시간을 가질까요? 제 생각에는 AI 연구소 스스로가 큰 위험에 처하고 있습니다”라고 말하며 우려를 표했습니다.
에디터의 시선
OpenAI가 AGI라는 거대한 목표를 향해 나아가는 과정에서, 실제 업무 데이터를 활용하려는 시도는 기술 발전의 자연스러운 수순으로 보일 수 있습니다. AI 모델의 성능을 실제 세계의 복잡한 맥락에서 평가하고 개선하려는 노력은 분명 의미가 있습니다. 그러나 이 과정에서 AI 개발사들이 감수해야 할 윤리적, 법적 책임의 무게는 가볍지 않습니다.
계약자에게 ‘기밀 삭제’라는 막중한 책임을 전가하는 것은 너무나 안일한 접근 방식입니다. 인간은 오류를 범할 수 있으며, 고의가 아니더라도 수십, 수백 개의 문서에서 모든 민감 정보를 완벽하게 제거하기란 불가능에 가깝습니다. 더욱이 ‘Superstar Scrubbing’이라는 도구가 그 책임을 덜어줄 수 있을지에 대한 검증도 필요합니다. 이는 결국 기업 기밀 유출 사고 발생 시, 그 책임 소재를 두고 복잡한 법적 분쟁으로 이어질 가능성을 높입니다.
급변하는 AI 시대, 기술의 발전은 불가피하지만, 그 발걸음이 윤리적, 법적 테두리를 벗어나서는 안 됩니다. OpenAI의 이번 시도는 AGI를 향한 야망과 데이터 주권 및 기업 기밀 보호라는 중요한 가치 사이에서, 우리가 어떤 균형점을 찾아야 할지에 대한 근본적인 질문을 던지고 있습니다. AI 기술이 인류에게 진정으로 유익하려면, 혁신만큼이나 책임감 있는 개발 프로세스와 강력한 안전장치 마련이 필수적임을 이번 사례는 명확히 보여주고 있습니다. AI 개발 기업들은 단순한 기술적 진보를 넘어, 사회적 신뢰를 구축하기 위한 보다 정교하고 안전한 데이터 활용 전략을 모색해야 할 것입니다.