구글 검색 선호 출처로 추가
앤트로픽이 새 보안 시스템을 도입해 경쟁사들의 조직적인 해킹과 이른바 '증류' 공격에 따른 데이터 탈취를 90∼99% 방어해냈다고 12일(현지시간) 밝혔다.
'증류(Distillation)' 공격이란 경쟁사들이 자체 AI 모델을 개발하는 데 드는 비용과 시간을 아끼기 위해 프록시 서비스와 수만 개의 가짜 계정을 이용, 특정 AI에 조직적·반복적으로 질문을 던지는 행위를 말한다. 이를 통해 해당 모델의 추론 패턴과 능력을 역설계해 훔쳐 가는 방식이다.
앤트로픽은 자사 첨단 모델 클로드의 추론 과정에 대한 접근을 제한하는 새 보안 조치로 정보 추출 시도가 급격히 감소했으며 "증류 시도자에 의해 추출된 데이터(추론 토큰)의 양도 이전 대비 10분의 1에서 100분의 1 수준으로 대폭 줄었다"고 발표했다.
앤트로픽은 자사 보안 시스템이 "클로드가 생화학 무기 제조를 돕지 못하도록 막는 시스템만큼이나 강력하며, 정상적인 사용자를 공격자로 오인해 차단하는 오탐률은 0.1% 미만"이라고 강조했다.
앤트로픽은 공격자들이 클로드의 추론 과정을 반복적으로 탐색하기 어렵게 만들었으며, 증류 공격과 연관된 수만 개의 악성 계정을 적발해 영구 차단했다고 밝혔다.
미·중 경쟁이 심화함에 따라 AI 모델 증류는 주요 AI 기업들의 핵심 우려 사항이 됐다. 앤트로픽과 오픈AI, 구글 등은 경쟁사들이 이 방식으로 빠르고 저렴한 비용으로 첨단 AI 기능을 복제하고 있다고 주장해 왔다.
앤트로픽은 또 중국 AI 스타트업 Z.ai(옛 지푸AI)가 GLM-5.3 모델을 개발하는 과정에서 클로드의 기능을 증류하려 했다면서 이는 안전 및 국가 안보에 위험을 초래한다고 경고했다.
Z.ai는 이에 대한 로이터의 논평 요청에 즉각 답하지 않았다.
댓글이 없습니다. 첫 댓글을 작성해보세요!