AI 생성 음성과 은행 사기: 의심스러운 전화와 결제를 확인하는 법

전화가 울리고 익숙한 목소리가 지금 당장 돈을 보내라고 한다. 곤경에 빠진 가족, 이체를 승인하라는 임원, 혹은 은행 직원을 자처하는 사람일 수 있다. 목소리가 본인처럼 들려도 합성일 수 있다. 그 목소리는 확인해야 할 주장이지, 전화를 건 사람이 누구인지에 대한 증거가 아니다.

FBI가 AI 생성 음성에 대해 말하는 것

FBI의 공개 경고(IC3, PSA241203)는 범죄자들이 생성형 AI를 악용해 더 큰 규모로, 더 그럴듯하게 사기를 저지른다고 밝힌다. FBI는 생성형 AI가 표적을 속이는 데 드는 시간과 노력을 줄여 주고, 평소라면 사기를 눈치채게 했을 사람의 실수까지 바로잡아 준다고 설명한다.

FBI가 열거한 수법 중 은행 상황과 직접 관련된 것이 있다. 범죄자들은 AI로 만든 음성으로 공적 인물이나 주변 사람을 사칭해 돈을 뜯어낸다. FBI는 또한 AI 생성 텍스트가 사회공학, 스피어 피싱, 로맨스, 투자 등 각종 신뢰 사기에 쓰이고, AI 생성 이미지가 프로필 사진과 신분증을 만드는 데 쓰인다고 설명한다. 합성 콘텐츠를 만들거나 배포하는 것 자체가 불법은 아니지만 사기와 갈취에 이용될 수 있다고 FBI는 덧붙인다.

익숙한 목소리가 증거가 아니라 주장인 이유

알아듣는 목소리 — 가족, 상사, "은행 직원" — 를 믿으려는 반사작용이야말로 음성 복제 사기가 노리는 지점이다. 목소리가 맞게 들린다고 해서 말하는 사람이 누구인지 확인되는 것은 아니고, 어딘가 어색하게 들린다고 해서 그것만으로 가짜라고 단정할 수도 없다. 전화를 건 사람의 신원은 내가 통제하는 경로로 확인해야 할 대상으로 다뤄라. 가장 의심해야 할 것은 지금 당장 움직이라는 압박이다.

따라 할 수 있는 확인 절차

아래는 이 글이 제안하는 단계이지 FBI나 은행이 공표한 규정이 아니다. 본인이 이용하는 은행과 직장의 공식 절차에 맞춰 조정하라.

• 1. 끊고, 이미 신뢰하는 번호로 다시 걸어라. 카드에 적힌 번호나 은행 공식 사이트의 번호로 걸되, 통화 중에 알려 준 번호나 링크는 절대 쓰지 않는다.
• 2. 결제나 계좌 변경의 속도를 늦춰라. 급함이 바로 지렛대다. 진짜 요청은 한 번 멈추고 다시 확인해도 사라지지 않는다.
• 3. 가족과 미리 비공개 확인 문구를 정해 두어라. 재무팀이라면 내부 암호를 정해, 목소리 자체에 의존하지 않고 신원을 확인할 수 있게 한다.
• 4. 기업 결제에는 독립적인 두 번째 승인자를 두어라. 모든 이체나 거래처 계좌 정보 변경은 별도로 연 공식 경로로 확인한다.
• 5. 무엇을 요구했는지, 누가 돈을 받는지, 이유가 무엇인지 먼저 적어 두고 나서 행동한다.

FBI의 경고는 AI 생성 음성 사칭을 결제 유도와 명시적으로 연결한다. 그래서 주목해야 할 것은 목소리가 아니라 그 돈 요구다.

탐지 도구가 들어맞는 지점과 한계

녹음이 있다면 — 음성 메시지나 저장된 클립 — DeepFakeCheck가 그 음성을(이미지, 영상, 텍스트도) 분석해 AI 생성·조작 가능성에 대한 확률적 위험 신호를 제공한다. 판단에 신호 하나를 더할 수 있다.

다만 한계를 분명히 하자. 자동 탐지기는 오탐(진짜 음성을 가짜로 표시)과 미탐(합성 클립을 놓침)을 모두 낸다. 점수가 높든 낮든 그 숫자 하나로 전화를 건 사람이 누구인지, 결제가 안전한지, 요청이 정당한지 증명할 수는 없다. 게다가 실시간 통화는 검사할 파일 자체가 없는 경우가 많으므로, 신뢰하는 번호로 다시 거는 습관이 어떤 단일 도구보다 중요하다.

이미 돈이 오갔다면

돈을 보냈거나 보낼 뻔했다면 창피함이 아니라 의심되는 사기로 다뤄라. 추가 송금을 멈추고, 은행이나 카드사에 즉시 연락하고, 녹음·번호·메시지·거래 내역을 모두 보관하라. FBI는 금융 사기 피해자에게 인터넷범죄신고센터(IC3) www.ic3.gov 에 가능한 거래·통신 세부 정보를 함께 신고하도록 안내한다.

출처

• FBI 인터넷범죄신고센터(IC3) 공익 안내, "Criminals Use Generative Artificial Intelligence to Facilitate Financial Fraud" — https://www.ic3.gov/PSA/2024/PSA241203