가족을 노리는 AI 음성 복제 사기: 확인 방어 체크리스트
익숙한 목소리는 더 이상 본인이라는 증거가 아닙니다
전화를 받으니 딸, 아버지, 손자의 목소리가 다급하게 빠른 말로 지금 당장 돈을 보내달라고 합니다. 돕고 싶은 마음이 먼저 앞섭니다. 사기는 바로 그 반사적인 마음을 노립니다.
FBI는 범죄자들이 생성형 인공지능을 이용해 더 큰 규모로 사기를 저지르고 수법을 더 그럴듯하게 만든다고 경고합니다. 또한 이들이 AI로 생성한 음성으로 가족이나 지인을 사칭해 돈을 뜯어낼 수 있다고 밝혔습니다. 같은 경고문은 생성형 AI가 표적을 속이는 데 드는 시간과 노력을 줄여 주며, 사기임을 드러낼 수 있는 사소한 실수까지 바로잡을 수 있다고 지적합니다. 요점은 분명합니다. 본인과 똑같이 들렸다는 사실은 더 이상 그 사람이 맞다는 증거가 아닙니다.
AI가 만든 콘텐츠는 원래 구별하기 어렵기 때문에, 통화 중에 더 귀 기울여 듣는다고 해서 가짜를 잡아낼 수 있다고 기대해서는 안 됩니다. 그래서 이 체크리스트는 목소리의 진위를 판단하라고 요구하지 않습니다. 판단을 그 통화에서 떼어내, 당신이 통제할 수 있는 다른 경로로 옮기라고 말합니다.
돈이나 비밀을 요구하는 다급한 전화, 이 순서대로
순서대로 실행하세요. 어느 단계도 목소리가 진짜처럼 들리는지에 기대지 않습니다.
1. 속도를 늦추세요. 마감 압박 때문에 확인을 건너뛰지 마세요. 1분 안에 행동하거나 전화를 끊지 말라고 요구하면, 결제하기 전에 멈추세요.
2. 끊고, 이미 알고 있는 번호로 다시 거세요. 상대가 알려 준 번호로 걸지 말고, 화면에 뜬 번호도 믿지 마세요. 직접 저장해 둔 연락처를 열어 본인에게 전화해 확인하세요. 받지 않으면 다른 방법으로 연락하거나 다른 가족에게 먼저 확인한 뒤에 움직이세요.
3. 두 번째 경로로 옮기세요. 전화는 하나의 경로일 뿐입니다. 문자를 보내거나 영상통화를 걸거나 가족 단체 대화방에 물어보세요. 온라인 어디에도 올라와 있지 않은, 함께 아는 세부 사항을 물어보세요.
4. 필요해지기 전에 가족 암호를 정해 두세요. 소셜 미디어에 올리지 않는, 집안만 아는 문구를 하나 정하세요. 전화가 다급하고 어딘가 이상하면 그 암호를 물어본 뒤, 알고 있는 번호로 다시 전화하세요. 암호에 답했다고 해서 독립적인 확인을 생략해서는 안 됩니다.
5. 전화 한 통 때문에 돈, 상품권, 암호화폐를 보내지 마세요. 전화로만 접촉한 상대에게 자산을 서둘러 옮기라는 요구는, 서두를 이유가 아니라 멈출 이유로 받아들이세요.
6. 증거를 남기고 신고하세요. 음성 메시지를 저장하고, 번호와 시간을 적어 두고, 결제 관련 정보를 보관하세요. FBI는 금융 사기 피해자에게 IC3를 통해 신고하도록 안내합니다.
딥페이크 탐지기가 할 수 있는 일과 없는 일
의심스러운 음성이 녹음된 것이라면 — 저장된 음성 메시지, 전달받은 클립, 첨부된 영상 — 확인해 볼 수 있습니다. DeepFakeCheck는 음성, 이미지, 영상, 텍스트를 분석해 확률적 위험 신호를 제시합니다. 처음 사용할 때 계정이 필요 없고, 제한된 무료 사용량이 있습니다.
그 결과는 신중히 읽어야 합니다. 탐지기는 판결이 아니라 확률을 줍니다. 자동 탐지기는 진짜 콘텐츠를 가짜로 표시하는 오탐과, 합성 클립을 놓치는 미탐을 모두 냅니다. 점수 하나만으로는 그 통화가 진짜였는지 사기였는지 증명할 수 없습니다. 위의 단계에 더하는 참고 자료로 쓰되, 믿을 수 있는 번호로 본인에게 다시 거는 일을 대신하게 하지 마세요.
이 확인에는 음성 메시지나 클립을 저장해 별도로 업로드하세요. 탐지 결과를 기다리기 전에 전화를 끊고 자신이 통제하는 경로에서 확인하세요. 이 체크리스트는 귀로 가짜를 잡는 대신 절차에 기대는 것입니다.
이미 돈을 보냈다면
빠르게, 이 순서로 움직이세요.
- 멈추세요. 첫 결제가 실패했다는 말을 들어도 더는 보내지 마세요.
- 은행이나 결제사의 사기 신고 창구에 즉시 전화해 결제가 사기일 수 있다고 알리세요.
- 신고하세요. FBI 인터넷 범죄 신고 센터 www.ic3.gov에 접수하고, 누가 연락했는지, 무엇을 요구했는지, 가지고 있는 결제 정보를 함께 적으세요.
- 가족에게 상황을 알리세요. 어떤 번호와 결제 요구가 있었는지 공유하고, 관련 연락은 각자 독립적으로 확인하게 하세요.
FBI는 생성형 AI가 사기 수법을 더 그럴듯하게 만들 수 있다고 경고합니다. 믿을 만한 방어는 더 예민한 귀가 아니라 고정된 습관입니다. 속도를 늦추고, 끊고, 자신이 통제하는 경로에서 확인하고, 돈이 어디로 갈지를 전화 한 통이 결정하게 두지 마세요.
출처
- FBI 인터넷 범죄 신고 센터, 「범죄자들이 생성형 인공지능을 이용해 금융 사기를 조장한다」: https://www.ic3.gov/PSA/2024/PSA241203