최근 AI 기술의 발전으로 인해 딥페이크와 같은 인공지능 생성 콘텐츠가 늘어나고 있습니다. 이러한 콘텐츠와 실제 콘텐츠를 구별하는 것은 점점 중요해지고 있습니다.
딥러닝(Deep Learning)과 페이크(Fake)의 합성어인 딥페이크(Deepfake)는 AI 기술을 활용하여 진위 여부를 구별하기 어려운 가짜 미디어물들을 뜻합니다.
여기서는 AI 생성 콘텐츠와 실제 콘텐츠를 구별하기 위한 10가지 주요 사항을 알아보겠습니다.

AI생성 콘텐츠의 태생적 약점
-
1. 영상의 길이: 딥페이크 영상은 대부분 짧습니다. 오랫동안 훈련된 AI 시스템에 의해서만 개발될 수 있기 때문에, 보도 영상이나 소셜 미디어 영상과 같은 짧은 길이의 콘텐츠가 주로 사용됩니다.
2. 눈의 움직임 :
실제 비디오와 딥페이크를 구별하는 데 있어 눈의 움직임은 중요한 역할을 합니다. AI 알고리즘으로는 실제 눈 움직임을 정확하게 모방하는 것이 어렵습니다. 사람의 눈은 각막의 습도를 유지하고 산소를 공급하기위해 1분당 10-15회 정도 깜빡이기 때문에 이것을 계산하고 눈의 깜빡임을 사람의 경우와 유사하게 만들 수 있는 기술은 아직 없습니다. 그리고 눈이 한번 깜빡이는 데 걸리는 시간은 100-150 밀리세컨드(1천분의 1초)로 0.1초에서 0.15초 정도로 fake 영상이 따라올수가 없기에 눈의 깜빡임과 눈동자의 움직임을 자세히 보고 이상하면 deepfake 일 가능성이 매우 높습니다.

3. B,M,P 발음을 들어본다:
딥페이크에서 오디오가 비정상적으로 들리거나 입 모양과 일치하지 않는 경우가 많습니다. 이러한 오디오의 부자연스러움을 주목하면 딥페이크를 식별하는 데 도움이 될 수 있습니다. 이는 딥페이크 영상을 감지하는 미국 스탠퍼드 대 HAI(Human-centered AI) 연구팀의 조사 결과 AI로 만든 영상들의 음성은 , B, M, P와 같은 순음에서 현실과 현격한 차이를 보이는 것으로 알려졌습니다. 이들 순음(脣音)을 잘 들어보면 입의 모양과 소리 사이에 뚜렷한 차이를 살펴볼 수가 있습니다.
4. 명백한 질감 이상 :
딥페이크 영상에서는 때때로 피부 질감, 머리카락, 그리고 배경과 같은 부분에서 명백한 이상 현상이 발생할 수 있습니다. 이러한 부분에 주의를 기울이면 딥페이크를 인식하는 데 도움이 됩니다.
5. ‘Google 이미지 검색’ 해보기 :
휴대폰으로 스크린샷을 찍어 Google 이미지의 ‘이미지로 검색’ 으로 가서 Google 렌즈를 탭하여 기능을 사용하면 해당 콘텐츠가 고유한 것인지, 다른 곳에 존재하는 것인지 확인할 수 있습니다. 이 방법은 딥페이크를 식별하는 데 유용합니다.
- Android 휴대전화 또는 태블릿에서 Google.com으로 이동합니다.
- 이미지를 검색합니다.
- 이미지를 탭합니다.
- 왼쪽 하단에서 Google 렌즈
를 탭합니다.
딥페이크와 같은 AI 생성 콘텐츠는 매우 사실적으로 보일 수 있지만, 위에서 언급한 요소들을 통해 힌트를 얻을 수 있습니다.
- 얼굴 표정의 부자연스러움: 실제 인간의 얼굴 표정은 매우 복잡하고 섬세합니다. 딥페이크는 종종 이러한 표정을 완벽하게 재현하지 못해, 얼굴의 미묘한 감정 표현이 부자연스럽게 보일 수 있습니다.
- 배경의 일관성 없음: 딥페이크에서는 배경이 일관성 없게 변할 수 있습니다. 예를 들어, 배경의 물체가 갑자기 사라지거나 변화하는 것을 볼 수 있습니다. 이러한 부분은 눈에 뛰지는 않지만 딥페이크를 식별하는 중요한 단서가 될 수 있습니다.
- 음성합성의 흔적 :딥페이크는 음성이 기계적이거나 감정이 부족하게 들릴 수 있습니다. 또한, 말하는 속도나 톤에 이상함이 있을 수 있죠. 아직 음성합성을 완벽히 감출수 있는 것이 아니기 때문입니다.
- 기술적 제한으로 조작의 흔적: 딥페이크 생성에는 고급 컴퓨터 자원이 필요합니다. 따라서, 영상의 일부분만이 조작되고 나머지 부분은 원본 그대로인 경우가 많습니다. 이러한 부분적인 조작은 종종 감지될 수 있습니다.
- 전문가 분석: 마지막으로, 딥페이크와 실제 콘텐츠를 구별하는 가장 확실한 방법 중 하나는 전문가의 분석을 받는 것입니다. 이들은 특정 소프트웨어 도구를 사용하여 영상의 진위를 파악할 수 있습니다.