마이크로소프트 위협 인텔리전스팀이 최근 AI 브랜드를 악용한 소셜 엔지니어링 공격을 발견했다. ChatGPT, 마이크로소프트 코파일럿, 딥시크, 앤트로픽의 클로드 같은 인기 AI 플랫폼 이름으로 위장한 피싱·멀버티징(부정 광고) 캠페인이 증가하고 있다. 이들 공격은 서비스 침해가 아닌 순수 브랜드 도용이지만, 자격증 탈취·금전 사기·악성코드 감염으로 이어진다.

AI 열풍을 낚싯대로 삼는 공격

위협 행위자들이 AI를 공격 수단으로 삼는 동시에, 글로벌 AI 붐 자체를 소셜 엔지니어링 미끼로 삼고 있다. 제품 출시나 새로운 트렌드를 포착해 신뢰받는 브랜드를 도용함으로써 공격 성공률을 높이는 전략이다. 마이크로소프트는 지난 몇 개월 동안 AI 테마 미끼 캠페인의 증가 추세를 관찰했다.

흥미로운 점은 이런 공격들이 신기술 뒤에 구식 기법을 숨기고 있다는 것이다. 긴급성을 강조하는 메시지, 신뢰받는 서비스 악용, 다단계 리다이렉션 같은 오래된 트릭을 그대로 사용한다. 청구서·결제 알림·배송 추적 같은 전통 미끼들이 계속 효과적인 만큼, AI 테마 미끼도 장기적으로 계속 활용될 것으로 예상된다.

ChatGPT 위장 피싱, 신용카드 수집

지난 5월 5일, 마이크로소프트는 ChatGPT 테마 피싱 공격을 적발했다. 피싱 이메일은 "ChatGPT Plus 구독을 계속하려면 결제 수단을 업데이트하세요"라는 제목으로 배포됐다. 메시지는 "7일 내에 새로운 결제 수단을 입력하지 않으면 계정이 무료 플랜으로 강등된다"는 긴급성을 강조했다.

이메일의 결제 수단 업데이트 버튼은 직접 피싱 사이트로 연결되지 않았다. 대신 여러 합법 서비스를 악용한 리다이렉션 체인을 거쳤다: CRM 서비스(grupoconstat[.]bitrix24[.]com[.]br) → 아마존 추적 도메인(awstrack[.]me) → URL 단축 서비스 Rebrandly → 최종 피싱 페이지(legendarytrendsbay[.]shop/ChatGPT/). 피싱 페이지는 먼저 "결제 업데이트" 버튼 형태의 CAPTCHA를 요구한 뒤, 이름·주소, 신용카드 번호·유효기간·보안코드를 수집하는 페이지로 진행됐다.

공격은 남아공 97%를 집중 타겟했으나, 스위스·오스트리아·영국도 포함되었다. 하루 최대 10만 건의 이메일이 발송됐으며, 고등교육·전문 서비스·금융 등 산업 전반이 영향을 받았다.

Claude 위장, 2000개 조직 표적

4월 20~22일 앤트로픽의 클로드 AI 서비스를 도용한 피싱 캠페인이 발견됐다. "클로드 이의 제기 요청"이라는 제목으로 "귀사 계정이 이용 정책 위반 상태"라며 "즉시 조치 필요"라는 메시지를 보냈다. 발신자명은 _앤트로픽 팀즈(_Anthropic Teams)와 _앤트로픽 PBC_로 정상 계정 알림으로 위장했다.

공격 대상은 2000개 이상의 조직이었으며, 지역별 분포는 미국(62%), 영국(18%), 인도(9%)였다. 산업별로는 IT(56%), 기타 비즈니스(21%), 금융 서비스(8%)가 주요 표적이었다. 이메일은 "AUP(계정 사용 정책) 위반"을 고지하며 계정 기능을 제한하겠다고 위협했으며, 수신자들은 링크 클릭으로 인증 정보와 액세스 토큰을 탈취당했다.

정부급 행위자까지 확산

한 발 더 나아가, 초기 접근 중개인인 스톰-3075(Storm-3075)가 AI 테마 멀버티징으로 악성코드를 유포하는 사례가 적발됐다. 자금 동기 위협 행위자 폭스 템페스트(Fox Tempest)의 악성코드 서명 서비스(MSaaS)를 경유해 다양한 후속 행위자들에게 페이로드를 배포하고 있다. 이는 AI 브랜드 악용이 단순 피싱을 넘어 사이버범죄 생태계 전반으로 확산했음을 보여준다.

기업·사용자의 대응 포인트

마이크로소프트는 이들 공격이 벤더 서비스의 침해가 아닌 순수 브랜드 도용임을 명확히 했다. 하지만 대부분 사용자가 AI 서비스를 이용하고 "긴급 업데이트" 같은 메시지에 반사적으로 반응할 수 있다. 특히 신용카드·인증 정보·액세스 토큰 탈취는 산업 스파이나 추가 공격으로 확산할 수 있다.

마이크로소프트는 조직들이 이메일·아이덴티티·엔드포인트 전반에서 AI 기반 보안 역량을 활용하여 탐지와 대응을 강화할 것을 권고했다. 사용자들도 결제 업데이트·계정 제한 같은 제목 이메일에서 발신 도메인을 검증하고, 공식 웹사이트에서 직접 로그인하여 알림을 확인하는 습관을 가져야 한다.