앤트로픽 위협 보고서: AI가 해킹 ‘조언자’에서 공격 절차를 돌리는 실행자로
앤트로픽이 2025년 12월부터 2026년 8월까지 적발·차단한 AI 악용 사례를 공개했습니다. 사이버 공격, 감시, 영향 공작, 무기 개발, 생물학적 악용과 불법 증류까지 범위가 넓어졌고, 특히 AI 에이전트가 정찰부터 침투·자료 유출까지 여러 단계를 연결하는 변화가 확인됐습니다.
8개월 동안 확인한 7가지 악용 영역
앤트로픽은 9월 공개한 ‘Detecting and countering misuse of AI’ 보고서에서 2025년 12월부터 2026년 8월까지 자사 위협 인텔리전스팀이 탐지하고 중단한 사례를 정리했습니다. 범위는 사이버 공격, 감시, 영향 공작, 사기, 재래식 무기 개발, 생물학적 악용, 다른 모델을 훈련하기 위한 불법 증류까지 7개 영역입니다.
보고서에 등장한 행위자는 국가 지원 의심 집단, 금전 목적 범죄자, 상업용 스파이웨어 업체와 선전 조직 등으로 다양합니다. 앤트로픽은 해당 활동에 Claude Haiku·Sonnet·Opus 계열이 쓰였으며, 불법 증류 한 건을 제외하면 Fable·Mythos급 모델이 연루된 사례는 발견하지 않았다고 밝혔습니다. 이는 회사가 확인한 범위에 한정된 설명입니다.
챗봇의 답변을 넘어 공격 단계를 연결하는 에이전트
가장 중요한 변화는 AI가 코드 조각을 알려 주는 보조자에 머물지 않았다는 점입니다. 보고서 속 여러 사이버 작전에서 에이전트형 워크플로가 대상 조사, 피싱 기반 구축, 취약점 이용, 내부 이동, 자격증명 수집과 대량 자료 정리를 연속적으로 수행했습니다. 인간 운영자는 목표를 정하고 유출 결과를 확인했지만 반복 작업의 상당 부분은 자동화됐습니다.
앤트로픽은 고급 공격의 외형만 보고 배후 역량을 추정하기 어려워졌다고 분석합니다. 과거에는 많은 숙련 인력과 전용 도구가 필요했던 절차를 소수 인원이 더 빠르게 반복할 수 있기 때문입니다. 보안팀 입장에서는 공격 코드의 복잡성보다 누가 어떤 권한으로 무엇을 연속 실행했는지를 기록하는 행위 기반 탐지가 중요해집니다.
탐지되면 스스로 고쳐 다시 배포한 악성 도구
러시아 국가 연계 활동과 일치한다고 평가된 GTG-20006 사례에서는 AI 워크플로가 보안 제품의 탐지 여부를 확인하고, 잡힌 악성 도구를 수정·재빌드·재배포하는 반복 고리를 운영했습니다. 이 집단은 우크라이나와 유럽의 정부·외교·방위 조직, 군용 드론 공급망 등을 표적으로 삼았고 20곳이 넘는 조직을 계획·정찰 또는 실제 작전 대상으로 다뤘습니다.
마이크로소프트는 2026년 7월 호텔 게스트 와이파이와 DNS 하이재킹을 악용해 기기별 악성코드를 전달하는 별도 활동을 ‘CaptiveCrunch’로 공개했습니다. 앤트로픽 보고서는 이 공개 분석을 연결해 공격 수법의 일부를 교차 설명합니다. 다만 보고서의 귀속 평가는 자체 관측과 공개정보에 근거한 판단이므로 법적 확정 사실과 구분해야 합니다.
무기·생물학 분야에서는 실제 역량과 의도를 분리해야
보고서는 예멘 북부의 한 집단이 유도 로켓과 미사일 관련 소프트웨어를 만들려 한 사례, 중국·러시아 기반 행위자가 드론 군집과 전자전·조달 분석에 모델을 쓴 사례도 담았습니다. 생물학 분야에서는 안전장치를 우회해 이중용도 연구 계획이나 독성 물질 설계를 발전시키려는 시도가 발견됐다고 설명합니다.
여기서 ‘질문했다’와 ‘작동하는 무기를 완성했다’는 같은 의미가 아닙니다. 일부는 시뮬레이션이나 제안서 단계였고 실패한 시험 정황도 있었습니다. AP 역시 예멘 사례에서 고도화된 미사일 개발 시도와 실패 정황을 함께 전했습니다. 위험을 축소할 필요는 없지만 모델 사용 기록만으로 실제 성능이나 최종 목적을 과장해서도 안 됩니다.
개발사와 기업 보안팀이 바꿔야 할 방어 방식
앤트로픽은 관련 계정을 차단하고 관측한 전술·기술·절차를 탐지 규칙에 반영했으며, 필요한 경우 정부와 업계 파트너에게 지표를 공유했다고 밝혔습니다. 고위력 폭발물과 무기 개발 요청을 더 잘 차단하는 분류기도 추가했습니다. 그러나 한 서비스에서 계정을 막아도 공격자가 다른 모델이나 도난당한 API 키로 옮겨 갈 수 있어 업체 간 신호 공유가 필요합니다.
일반 기업은 AI 사용 정책만 만드는 것으로 충분하지 않습니다. API 키의 최소 권한과 빠른 폐기, 비정상 호출량 탐지, 에이전트가 실행한 명령의 감사 로그, 외부 전송 승인, 사람의 중간 검토를 함께 설계해야 합니다. 이번 보고서가 보여 준 핵심은 모델의 답변 하나보다 AI가 여러 도구와 권한을 묶어 반복 실행할 때 위험의 속도와 규모가 커진다는 점입니다.
기사가 마음에 드셨다면 하트를 눌러주세요.
기사 읽고, 잠깐 게임 한 판 어떠세요?
전국을 여행하며 지역과 특산물을 만나는 한글 타자게임
미니게임 고르기 ▶