AI 보안 (4) : 의심스런 URL은 입력만 하면 딥페이크 여부 알려주는 AI

디페이크 기술은 인공지능을 통해 사람의 얼굴, 목소리 등을 합성하는 방식으로 사용되는데, 악용될 경우 심각한 사회적 문제를 초래할 수 있습니다. 이에 따라, 이러한 기술을 탐지하는 다양한 도구들이 개발되고 있습니다. 의심스런 URL은 입력만 하면 딥페이크 여부를 알려주는 AI에 대해 소개하겠습니다.

1. 센티넬(Sentinel)

센티넬은 얼굴 이미지를 AI 기술을 사용해 진짜 얼굴과 조작된 얼굴을 구분하는 얼굴 분류 모델입니다. 다양한 데이터셋을 기반으로 하고 있으며, AI가 만들어 낸 음성도 분석할 수 있습니다. 이 도구는 뉴럴 네트워크를 활용해 고정밀 탐지가 가능하며, 유럽의 여러 기관에서도 사용 중이라고 합니다. 센티넬은 다양한 기관들이 쓰고 있지만, 일반 사용자들이 바로 사용할 수 있는 형태는 아닙니다. 별도 링크 제공도 없으며 기관용 서비스를  주업무로 하고 있으며 데모를 원하면 연락처를 남겨야 하죠.

2. Attestiv

Attestiv는 개인, 인플루언서, 회사 등 다양한 사용자들이 이용할 수 있는 상업적 디페이크 탐지 솔루션을 제공합니다. 영상, 이미지, 음성 등 다양한 AI 생성 콘텐츠를 감지하고 분석할 수 있으며, 특히 립싱크와 같은 조작 요소들을 잘 잡아낸다고 합니다. 또한, 비디오 지문을 남기는 기능도 있어 콘텐츠의 위조 여부를 나중에도 추적할 수 있습니다. 무료 버전을 제공하며, 입력한 영상이나 링크에 대해 분석을 실행할 수 있습니다.

3. Intel FakeCatcher

인텔에서 개발한 리얼타임 디페이크 탐지 도구입니다. 세계 최초의 실시간 디페이크 탐지 기술로, 영상 속 혈류 신호를 분석해 진짜와 가짜를 구분합니다. 혈류가 얼굴에 미묘하게 흐르는 모습이 동영상 픽셀에서 감지되며, 이를 기반으로 딥러닝을 통해 가짜 영상 여부를 실시간으로 판단합니다. 이 도구는 주로 화상 통화 등 실시간 영상에서 효과적으로 사용될 수 있습니다. 특히, 화상 통화 중 발생할 수 있는 디페이크 사기를 막는 데 유용합니다.별도 링크 제공이 없으며 기업용 솔루션입니다.

4. WeVerify

WeVerify는 가짜 뉴스와 같은 디지털 콘텐츠의 진위 여부를 검증하는 도구입니다. 블록체인 기술을 기반으로 소셜 미디어나 웹 콘텐츠를 분석하여 가짜 정보를 감지합니다. 다양한 소스의 데이터를 교차 검증하며, 크롬 확장 프로그램 형태로 제공되고 있어 쉽게 설치 후 사용할 수 있습니다. 하지만 실제 사용자들의 피드백에 따르면 기능적 문제가 있어 아직 완전한 형태로 사용하기는 어려운 것으로 보입니다.

5. Microsoft Video Authenticator

마이크로소프트에서 개발한 비디오 및 이미지 검증 도구로, 영상 속에서 진짜와 가짜를 구분하는 신뢰도 점수를 제공합니다. AI가 생성한 콘텐츠는 빨간색으로 표시되며, 실시간으로 영상의 진위 여부를 확인할 수 있습니다. 이 도구는 2020년에 업데이트되었지만, 여전히 사용자들이 바로 사용할 수 있는 형태로 제공되고 있지는 않습니다.

사용후기 : 실제 테스트해본 결과, 일부 경우에 디페이크 탐지가 정확하게 이루어졌습니다. 그리고 고도로 리터칭된 영상들은 탐지가 어려운 모습을 보였고, 오히려 진짜 영상이 의심스러운 결과로 나타나는 경우도 있었습니다. 아직 딥페이크를 잡아내는 기술은 갈길이 먼 것 같습니다. 더 많은 기술이 발전하고, 더 정교한 탐지가 가능해지길 기대해봅니다.

<이하 광고>

© 2023 나의 웹 페이지