IT·과학 IT일반

"음성복제·딥페이크" 이러니 속지…기업들, AI사기에 1700억대 털려

김훈기 기자
연합 AI 플랫폼 생성 이미지. @ 연합뉴스

인공지능(AI)으로 최고경영자(CEO)와 변호사의 목소리를 흉내 내 기업들로부터 1억2900만 달러(약 1759억원) 넘게 가로챈 혐의로 3명이 미국에서 기소됐다.

연합뉴스에 따르면 뉴욕타임스(NYT)는 뉴욕 남부연방검찰청이 5일 공개한 기소장을 인용해 이들이 2024년 7월부터 약 18개월간 이러한 수법을 되풀이했다고 8일(현지시간) 보도했다.

검찰에 따르면 이들 일당은 미국과 유럽 기업의 회계·재무 담당 직원에게 이메일로 접근한 뒤 AI로 복제한 CEO 목소리로 전화를 걸어 비밀 거래를 위한 즉시 송금을 요구했다.

이어 실제 대형 로펌 소속 변호사를 사칭한 공범이 연락해 송금을 마무리했고, CEO 딥페이크를 동원한 화상통화도 시도했다.

미주리주의 한 병원 체인 회계 담당자는 귀에 익은 CEO 목소리로 급한 기밀 사안이니 당장 송금하라는 전화를 받은 데 이어 변호사의 연락까지 받고 돈을 보냈다가 480만 달러(약 65억원)를 날렸다.

영국 핀테크 기업(1160만 달러)과 플로리다주 반려동물 사료업체(520만 달러), 매사추세츠주 뮤추얼펀드 운용사(460만 달러) 등도 같은 수법에 당했다.

일당은 '변호사 통화'라는 제목의 손으로 쓴 통화 대본을 만들어 사용했으며, 여기에는 규제 용어와 내부자거래 위험을 들먹이며 전화를 받은 직원이 동료에게 통화 내용을 알리지 못하도록 하려고 했다고 검찰은 밝혔다.

광명시청_메인중앙하단_260824
안성시청_바우덕이축제_메인 하단_260908

피고인은 이스라엘 국적의 샤론 하잔(54)과 가이 시트리트(42), 영국 거주자인 제이컵 솔(41)로 6∼9월 스페인과 영국에서 차례로 체포돼 미국 송환을 기다리고 있다.

이들에게는 전신사기와 가중 신원도용, 자금세탁 등 혐의가 적용됐으며, 전신사기와 자금세탁은 혐의별로 최고 징역 20년을 선고받을 수 있다.

검찰은 일당이 빼돌린 돈을 가상화폐로 바꿔 나눠 가졌으며, 하잔은 지난 3년간 4억 달러(약 5455억원) 넘게 세탁했다고 자랑하기도 했다고 밝혔다.

미 연방수사국(FBI)에 접수된 AI 관련 사기 신고는 지난해 2만2000건을 넘었고, 피해액은 8억9000만 달러(약 1조2000억원)를 웃돌았다.

NYT는 AI 사칭 사기의 위험을 경고하며 이런 기술이 이제 누구나 쓸 수 있을 만큼 쉬워졌다고 짚었다.

딥페이크 전문가인 해니 퍼리드 미국 다트머스대 교수는 최신 노트북 1대만 있으면 1분도 안 되는 음성으로 누군가의 목소리를 복제할 수 있고 얼굴 사진 한 장으로 '아바타 딥페이크'를 만들 수 있다고 말했다.

그는 "사람들의 (가짜) 판별 능력은 무작위로 찍는 수준을 약간 웃도는 정도"라며 "두어 달 전 한 CEO가 '이제 끝이다. 앞으로는 모든 걸 대면으로 하겠다'고 하더라"고 전했다.

수원특례시의회_08 (265x118)
260623_인천도시공사

저작권자 © 중앙신문 무단전재 및 재배포, AI학습 및 활용 금지

관련 기사

0개의 댓글

댓글이 없습니다. 첫 댓글을 작성해보세요!