'엠마 왓슨' 음란 광고물 등장…무슨일?

[서울=뉴시스]권서영 인턴 기자 = 딥페이크 기술로 유명 배우들의 얼굴을 합성한 음란물 광고가 논란을 빚었다.

9일(현지시간) NBC 뉴스는 엠마 왓슨, 스칼렛 요한슨 등 다수의 배우들이 음란물 광고의 피해자가 됐다고 전했다. 매체는 "AI(인공지능) 기술이 발전하며 딥페이크를 이용해 유명 배우의 얼굴을 합성한 음란 동영상이 SNS(사회관계망서비스)를 통해 퍼져나가고 있다"고 했다.

딥페이크(Deepfake)는 얼굴과 소리를 조작하는 AI 기술 방식이다. 해당 영상 속에는 엠마 왓슨으로 보이는 여성이 성적인 행위를 하는 모습이 담겼지만, 이는 단지 딥페이크를 이용해 얼굴을 변형한 결과물일 뿐이었다.

NBC는 "지난 이틀 동안 배우 엠마 왓슨의 얼굴을 사용한 수백 개의 음란물 딥페이크 광고가 페이스북과 인스타그램에 게재됐다"며 "앱 광고물 중 127개에는 엠마 왓슨의 얼굴이, 나머지 74개에는 할리우드의 배우 스칼렛 요한슨의 얼굴이 합성되어 있었다"고 추산했다.

딥페이크 기술을 악용한 음란물을 경계해야 한다는 지적은 이전부터 계속됐다. 연예인과 인플루언서뿐 아니라 일반인까지도 악의적 동영상의 피해자가 될 수 있다는 비판이 잇따랐다. 지난 2019년 발표된 온라인 합성 미디어 모니터링 회사인 딥트레이스의 통계에 따르면 온라인 딥페이크 자료의 96%가 음란물이었다.

NBC는 메타 등 다수의 플랫폼에서 얼굴을 합성할 수 있는 앱이 유통되고 있다고도 밝혔다. 실제로 매체 확인 결과 규제의 사각지대에서 버젓이 유통되고 있는 앱이 다수 존재했다. 성적 노출이 포함된 동영상을 딥페이크 대상물로 삼아 유명인의 얼굴을 합성하고 이를 광고에 이용한 것이다.

메타 대변인은 성명을 통해 "우리의 정책은 AI에 의한 것이든 그렇지 않은 것이든 간에 성인물을 금지하는 것"이라며 "이 페이지를 우리 플랫폼에서 광고하지 못하게 했다"고 밝혔다. 애플 대변인 역시 "아직 딥페이크에 대한 구체적 규칙을 갖고 있지 않으나 음란물을 포함한 앱은 금지하고 있다"고 설명했다.
◎공감언론 뉴시스 kwon1926@newsis.com