[관점]
AI 위협 논의는 두 극단으로 흐르기 쉽다. 곧 모든 것이 무너진다는 쪽과, 결국 하던 공격을 조금 빨리 하는 것뿐이라는 쪽이다. 둘 다 대응 계획으로 옮겨지지 않는다.
이 리포트의 결론이 유용한 이유는 그 사이에 있기 때문이다. AI 의 영향은 능력의 돌파가 아니라 구조의 변화에서 온다고 본다. 누가 공격할 수 있는지, 얼마나 빠르게, 어느 규모로 할 수 있는지가 바뀌었다는 것이다. 이 규정을 받아들이면 대응의 방향도 새 탐지 기술이 아니라 절차와 검증으로 옮겨 간다.
SOCRadar 는 다크웹 관찰, 범죄용 AI 도구의 성능 시험, 310만 건 이상의 자격증명 기록을 포함한 인포스틸러 로그 분석, 오픈 웨이트 모델에 대한 레드팀 평가, 그리고 문서화된 사고 검토를 근거로 이 리포트를 작성하였다.
중심 결론은 이렇다. AI 는 공격 수행에 필요하였던 시간·전문성·인프라를 압축하는 동시에, 기존 보안 구조가 다루도록 설계되지 않은 새로운 위험 범주를 생성하였다.
리포트가 지목한 다섯 가지 위협
보이스 피싱과 사회공학이 질적으로 달라졌다. 자동 보이스 피싱용 플랫폼은 음성 사기에 있던 전통적 제약을 없앴다. 유창함, 침착함, 즉흥 대응이 그 제약이었다. 리포트가 기록한 시험에서 AI 음성 에이전트는 사람 운영자가 한마디도 하지 않은 채 60초 안에 자격증명을 얻어 냈다. 딥페이크 음성 생성과 결합되면 공격 1건당 비용이 사실상 0에 수렴하고, 모든 전화번호가 표적이 된다.
고성능 언어 모델이 상업적 안전장치 밖에서 접근 가능해졌다. 국가 수준 행위자는 안전 거부도, 사용 감시도, 외부 감독도 없는 모델을 자체 구축해 운용할 수 있다. 동시에 검열이 제거된 오픈 웨이트 모델이 공개되어 있고 일반 하드웨어에서 돌아간다. 반면 범죄용으로 만들어졌다고 홍보되는 도구들은 주목은 받지만 결과물의 품질이 일관되게 낮다는 것이 시험 결과다.
업무 시스템에 붙은 언어 모델이 넓은 공격면을 형성한다. 이력서, 메일, 문서, 도구 응답처럼 신뢰할 수 없는 내용을 모델에 연결하는 애플리케이션은 프롬프트 인젝션에 취약하다. 모델이 처리할 데이터와 따라야 할 지시를 안정적으로 구분하지 못하기 때문이며, 리포트는 이 문제를 구조적으로 미해결 상태로 규정한다.
리포트는 나머지 두 위협까지 다섯 가지를 순서대로 다루고, 각각에 대해 관측 근거를 함께 제시한다.
국내 적용 관점
음성 기반 확인 절차를 먼저 손봐야 한다. 60초 안에 자격증명이 넘어가는 수준이라면, 국내 조직의 헬프데스크와 콜센터가 쓰는 본인 확인 절차는 이미 유효하지 않다. 생년월일과 사번 같은 정적 정보로 확인하는 방식은 유출 자료로 대부분 충족된다. 회신 통화와 별도 채널 확인을 규칙으로 넣는 것이 도구 도입보다 앞선다.
프롬프트 인젝션은 사업 부서의 문제로 넘어가야 한다. 이 취약점은 보안 조직이 방화벽으로 막을 수 있는 성격이 아니다. 외부 문서를 읽는 AI 기능을 만드는 부서가 설계 단계에서 다뤄야 한다. 국내 기업이 사내 어시스턴트와 문서 요약 기능을 빠르게 붙이고 있으므로, 개발 표준에 「신뢰할 수 없는 입력을 모델에 넣는 구간」의 처리 규칙을 명시해야 한다.
모델의 권한 범위를 자산으로 관리해야 한다. 모델이 어떤 도구를 호출할 수 있고 어떤 데이터에 접근하는지가 곧 피해 범위다. 사내 AI 도구 목록과 각각의 접근 권한을 자산 대장에 올리는 일이 첫 단계이며, 이것이 없으면 사고 시 영향 범위를 산정할 수 없다.
범죄용 AI 도구의 위협을 과대평가하지 않아야 한다. 시험 결과 품질이 낮다는 관측은 실무적으로 중요하다. 이름이 알려진 도구를 막는 데 자원을 쓰기보다, 검열 없는 공개 모델이 일반 하드웨어에서 돌아간다는 사실이 만드는 결과에 대비하는 편이 정확하다.
대응 훈련의 시나리오를 갱신해야 한다. 기존 사회공학 훈련은 어색한 문장과 부자연스러운 요청을 단서로 가르친다. 그 단서가 사라졌다면 훈련 내용도 바뀌어야 한다. 절차 위반을 식별하는 훈련으로 옮겨야 한다.
검토 회의에서 확인할 항목
질문 1 헬프데스크의 본인 확인이 정적 개인정보에 의존하고 있는가?
질문 2 외부 입력을 모델에 넣는 기능의 설계 규칙이 개발 표준에 있는가?
질문 3 사내 AI 도구의 권한 범위가 자산 대장에 기록되어 있는가?
질문 4 고액 결재와 계좌 변경에 별도 채널 확인이 규정되어 있는가?
질문 5 사회공학 훈련 시나리오를 최근에 갱신했는가?출처 · SOCRadar, AI Threat Landscape Report 2026 (2026-05). 본문의 관측 결과는 원문의 시험·분석 내용이며 국내 환경에서 재현한 것이 아니다.