"이 사람은 톰 크루즈가 아니다" 딥페이크의 무서움을 단적으로 알 수 있는 틱톡 영상 > Austria

"이 사람은 톰 크루즈가 아니다" 딥페이크의 무서움을 단적으로 알 수 있는 틱톡 영상


 할리우드 배우 톰 크루즈가 화창한 어느 날 골프를 즐기는 영상을 틱톡에 공개했다. 이 영상 조회수는 어느덧 틱톡에서만 800만회를 돌파했다. 하지만 이 영상 속 주인공은 톰 크루즈가 아니다. 딥페이크 합성으로 만들어낸 가짜였다.

인공지능(AI) 한 분야인 딥러닝(Deep learning)을 활용해 얼굴이나 특정 부위를 합성하는 딥페이크(Deep Fake) 기술은 날이 갈수록 정교해지고 있다. 영상은 물론 음성까지도 진짜와 흡사하게 만들어낼 수 있다. 톰 크루즈 딥페이크 영상 역시 주의 깊게 듣지 않으면 실제 톰 크루즈 목소리로 착각할 만큼 비슷하다.


한 트위터 이용자(@laurenmwhite)는 최근 이 영상을 소개하며 ″딥페이크가 틱톡을 점령하고 있다. 모든 공인들은 틱톡에 콘텐츠를 만들지 않더라고 가짜 계정과 구별하기 위한 공인된 계정을 갖고 있어야 한다”고 전했다. 진짜 계정과 딥페이크 가짜 계정을 쉽게 구별할 수 없는 만큼 악용될 소지가 다분하기 때문이다.

또 다른 틱톡 영상을 보면, 딥페이크로 만들어진 톰 크루즈가 동전 마술을 선보이며 ”이 모든 건 진짜야”라고 말하기도 한다. 이를 본 틱톡 이용자들은 ”보이는 것을 그대로 믿을 수 없는 세상이 됐다”며 놀라워했다.

국내에서도 딥페이크 기술 악용에 대한 우려가 커지는 중이다. 특히 지난주 방영된 SBS ‘그것이 알고 싶다’에서는 딥페이크 관련 범죄를 추적하는 과정에서 피해자 신원보호를 모자이크가 아닌 딥페이크 기술로 했다. 많은 시청자들이 의식하지 못할 정도로 자연스러운 모습이었다.

그런가 하면 최근 중국에서는 가수 아이유 닮은꼴로 인기를 끈 한 인터넷 방송인이 딥페이크 기술을 활용한 가짜였던 것이 발각되기도 했다. 딥페이크 탐지 기술업체 ‘딥트레이스’에 따르면 딥페이크 웹사이트에 올라온 영상의 25%가 K팝 가수를 대상으로 하고 있다.

[이 게시물은 최고관리자님에 의해 2021-09-22 18:28:22 it에서 복사 됨]