유명인 딥페이크 사기: 의심스러운 광고를 확인하는 법
의심스러운 광고에는 유명 투자자가 투자를 권하거나, 배우가 제품을 추천하거나, CEO가 경품 행사를 소개하는 모습이 담길 수 있다. 얼굴과 목소리가 그럴듯해도 그것은 확인해야 할 주장이지 증거가 아니다.
FBI가 실제로 경고한 내용
FBI의 공개 경고(IC3, PSA241203)는 단호하다. 범죄자들이 생성형 AI를 악용해 더 큰 규모로, 더 그럴듯하게 사기를 저지른다는 것이다. FBI는 생성형 AI가 표적을 속이는 데 드는 시간과 노력을 줄여 주고, 평소라면 사기를 눈치채게 했을 사람의 실수까지 바로잡아 준다고 설명한다.
FBI가 열거한 수법 중 대표적으로, 범죄자들은 AI로 만든 영상으로 공적 인물을 그럴듯하게 묘사해 사기 수법을 뒷받침하고, AI로 만든 음성으로 유명 인사를 사칭해 돈을 뜯어낸다. FBI는 또한 AI 생성 텍스트가 투자 등 각종 신뢰 사기에 쓰이고, AI 생성 이미지가 그럴듯한 프로필 사진과 신분증을 만든다고 밝힌다. 합성 콘텐츠를 만들거나 배포하는 것 자체가 불법은 아니지만 사기와 갈취를 조장할 수 있다고 FBI는 덧붙인다.
유명인의 얼굴이나 목소리가 더는 증거가 아닌 이유
익숙한 얼굴을 믿고 싶은 본능 — 이 사기는 바로 그 반사작용을 빌려 쓴다. 공적 인물과 똑같아 보인다고 해서 그 홍보가 진짜라는 뜻은 아니고, 반대로 어딘가 어색한 클립이라고 해서 가짜라는 뜻도 아니다. 영상 속 인물은 확인해야 할 '주장'이지 그 자체로 증거가 아니다. 물어야 할 질문은 "이 사람처럼 보이는가"가 아니라 "그 사람이 실제로 운영하는 채널에서 확인할 수 있는가"다.
의심스러운 광고를 확인하는 다섯 단계
얼굴을 노려보지 말고 콘텐츠 바깥에서부터 확인하라.
- 1. 그 인물이나 브랜드의 공식 채널에 직접 들어가라. 알고 있는 웹사이트나 인증된 계정을 직접 입력한다 — 영상이나 광고 속 링크는 따라가지 않는다. 그 사람이나 회사가 해당 채널에서 캠페인을 확인했는지 살핀다. 확인할 수 없다면 클립만 믿고 행동하지 않는다.
- 2. 로고가 아니라 도메인을 읽어라. 랜딩 페이지의 도메인을 직접 연 공식 도메인과 글자별로 비교한다. 불필요한 단어, 낯선 접미사, 철자 차이가 있으면 정보를 입력하거나 결제하기 전에 멈추고 확인한다.
- 3. 돈을 요구하는 방식을 캐물어라. 어떤 돈을 왜 요구하는지, 수취인이 누구인지 적어 본다. 본인이나 브랜드가 독립적으로 연 공식 채널에서 요청을 확인하기 전에는 결제하지 않는다. FBI 경고는 AI 사칭을 결제 유도와 투자 사기에 명시적으로 연결한다.
- 4. 원본 클립을 찾아라. 클립의 특징적인 문구를 검색하거나 한 프레임을 역이미지 검색해 더 이르거나 원본인 게시물을 찾는다. 찾았다면 영상·음성·맥락·연결 주소를 비교하고, 찾지 못했다면 해당 클립은 미확인 상태로 둔다.
- 5. 독립적인 두 번째 신호를 얻어라. 파일이 있다면 탐지 도구에 넣어 데이터 한 점을 더 얻되, 그 결과를 어떻게 다룰지는 아래를 읽어라.
탐지 도구가 도움이 되는 지점과 한계
탐지기는 판결이 아니라 확률적 위험 신호를 준다. DeepFakeCheck는 이미지, 영상, 음성, 텍스트를 분석해 AI로 생성·조작되었을 가능성을 알려 준다. 첫 확인에는 가입이 필요 없고 제한된 무료 사용량이 있다. 여러 근거 중 하나로 쓰기에 유용하다.
다만 한계를 분명히 하자. 자동 탐지기는 오탐(진짜를 가짜로 표시)과 미탐(조작된 것을 놓침)을 모두 낸다. 점수가 높든 낮든 그 숫자 하나로 홍보가 진짜라거나, 어떤 사람이 실제로 그렇게 말했다거나, 어떤 매체가 진본이라고 증명할 수는 없다. 숫자는 의심을 높이거나 낮추는 데 쓰고, 실제 판단은 위의 채널 확인이 내리게 하라.
이미 돈이 오갔다면
돈을 보냈거나 보낼 뻔했다면 창피함이 아니라 의심되는 사기로 다루라. 추가 송금을 멈추고, 은행이나 카드사에 즉시 연락하고, 영상·URL·결제 내역·메시지를 모두 보관하라. FBI는 금융 사기 피해자에게 인터넷범죄신고센터(IC3) www.ic3.gov 에 신고하도록 안내한다.
FBI는 생성형 AI가 표적을 속이는 시간과 노력을 줄이고 사기를 더 그럴듯하게 만들 수 있다고 경고한다. 방어책은 더 예리한 눈이 아니라, 콘텐츠에서 빠져나와 출처를 확인하는 습관이다.
출처
- FBI 인터넷범죄신고센터(IC3) 공익 안내, "Criminals Use Generative Artificial Intelligence to Facilitate Financial Fraud" — https://www.ic3.gov/PSA/2024/PSA241203