(이미지 출처 : microsoft.com)

마이크로소프트(Microsoft)가 최근 발표한 사이버 시그널(Cyber Signals) 보고서를 통해 ‘AI 기반 사기 수법: 진화하는 위협과 대응 전략’을 공개했다. 이번 보고서는 인공지능 기술이 사이버 범죄 수법을 고도화시키는 동시에, 이에 맞서 마이크로소프트가 어떻게 다층적인 보안 전략을 수립해 대응하고 있는지를 다루고 있다.

마이크로소프트는 '2024년 4월부터 2025년 4월까지 1년간 약 40억 달러 규모의 사기 시도를 차단했으며, 시간당 평균 160만 건에 달하는 자동화된 봇 계정 생성 시도를 막았다'을 뿐만 아니라 '4만 9천 건의 허위 파트너 등록 요청을 거부하며 플랫폼의 무결성을 보호했다'고 밝혔다.

AI는 사이버 범죄자에게 있어 손쉬운 도구 이면서, 기술적인 어려움을 낮추는 도구로 자리잡고 있다. 범죄자들은 AI를 이용해 현실감 있게 위장된 피싱 메시지, 가짜 쇼핑몰, 허위 채용 공고를 쉽고 빠르게 제작하며, 소셜 엔지니어링 기반 공격을 정교하게 설계하고 있다. 예를 들어, 특정 기업의 정보를 자동으로 수집·분석한 뒤, 해당 조직의 직원이나 임원처럼 가장한 공격은 점점 더 자연스럽고 설득력 있게 다가온다. 여기에 딥페이크 영상, 음성 합성, AI 챗봇 등이 결합되면서 피해자는 공격이 조작된 것이라는 사실조차 인식하지 못한 채 사기 시나리오에 끌려들 수 있다.

전자상거래와 구직 플랫폼은 이러한 공격의 주요 타깃이다. 사기성 전자상거래 사이트는 실제 브랜드를 정교하게 모방하며, AI가 자동 생성한 리뷰나 제품 설명, 고객 후기를 통해 소비자의 신뢰를 얻는다. 고객 응대를 담당하는 AI 챗봇은 환불을 지연시키거나, 피해자의 불만을 무마하기 위한 답변을 제공하면서 사기 사이트가 마치 정식 판매처인 것처럼 위장한다.

구직 플랫폼에서는 가짜 채용 공고와 AI가 생성한 인사담당자 프로필, 자동화된 이메일 캠페인이 결합돼 구직자가 이를 실제 기회로 오인하게 만든다. 심지어 딥페이크 인터뷰 영상까지 활용되며, 피해자는 자신의 개인정보와 금융 정보를 사기범에게 넘기게 되는 경우도 빈번하게 발생하고 있다.

마이크로소프트는 이러한 위협에 대응해 다양한 보안 기술을 자사 서비스에 통합하고 있다고 소개하고 있다. 마이크로소프트 엣지 브라우저는 딥러닝 기반의 사기 도메인 탐지 기능과 오타 방지 기술, 스케어웨어 차단 기능을 탑재해 사기성 웹사이트로부터 사용자를 보호하는 기능을 지원한다.

디펜더 포 클라우드는 애저(Azure) 환경 전반에서 취약점 평가 및 위협 탐지를 수행하고, 마이크로소프트 디펜더 스마트스크린은 피싱 사이트나 악성 파일 다운로드를 사전에 차단하는 클라우드 기반 보안 기능을 제공한다.

기술 지원을 사칭한 사기도 여전히 심각한 위협이다. 마이크로소프트는 ‘Storm-1811’이라는 사이버 범죄 조직이 마이크로소프트의 원격 지원 도구 ‘퀵 어시스트(Quick Assist)’를 악용해 IT 직원을 사칭하고, 피해자의 컴퓨터에 원격 접속하는 사례를 보고하며, 이는 사용자의 신뢰를 기반으로 이뤄지는 전형적인 소셜 엔지니어링 공격으로, AI가 직접적으로 개입하지 않더라도 심각한 피해를 유발할 수 있다고 말한다.

마이크로소프트는 해당 공격에 대응해 의심스러운 퀵 어시스트 연결 시도를 실시간 차단하고 있으며, 하루 평균 4,400여 건의 연결을 방지하고 있다고 밝혔다. 또한, 사용자에게 전체 화면 공유 요청이 들어왔을 때 보안 경고 메시지를 띄우는 기능을 추가해, 의심스러운 접근에 대한 경각심을 높이고 있다.

기업 환경에서는 보안이 한층 강화된 ‘원격 지원(Remote Help)’ 기능 사용을 권장하고 있으며, 이는 조직 내부의 승인된 테넌트 내에서만 작동하도록 제한돼 퀵 어시스트보다 안전성이 높다. 또한, AI 기반의 디지털 지문 인식 기술을 도입해 사기성 연결을 사전에 탐지하고 차단하는 시스템도 함께 운영되고 있다.

마이크로소프트는 보안 전략으로 ‘사기 대응력 내재화(Fraud-resistant by Design)’ 방식을 채택하고 있다. 이는 모든 제품 개발 초기 단계에서부터 사기 방지를 위한 구조적 설계를 포함시키는 방식이다. 2025년 1월부터는 제품 개발팀 전원이 보안 평가를 수행하고, 사기 탐지를 위한 제어 장치를 필수적으로 구현해야 하는 정책이 도입됐다.

이번 보고서에서는 마이크로소프트 보안 조직의 켈리 비셀(Kelly Bissell) 부사장은 “사이버 범죄는 이제 개별 기업이 혼자 막을 수 있는 영역을 넘어섰다”며, “애플, 구글, 마이크로소프트가 각자 대응하는 것이 아니라, 함께 정보와 기술을 공유하며 파트너십을 맺어야 할 때”라고 강조했다.

(Image source: microsoft.com)

Microsoft recently released a report titled 'Cyber Signals' revealing 'AI-Based Fraud Methods: Evolving Threats and Response Strategies.' This report discusses how artificial intelligence technology is advancing cybercrime methods, and how Microsoft is establishing multilayered security strategies to combat them.

According to Microsoft, they have blocked approximately $4 billion worth of fraud attempts from April 2024 to April 2025, and prevented an average of 1.6 million automated bot account creation attempts per hour. They also stated that they rejected 49,000 false partner registration requests, safeguarding the integrity of their platform.

AI has become an easy tool for cybercriminals, lowering technical barriers. Criminals use AI to create convincingly disguised phishing messages, fake online shops, and false job postings quickly and easily, designing sophisticated social engineering attacks. For example, attacks disguised as organization employees or executives after automatically collecting and analyzing specific company information are becoming increasingly natural and persuasive. When combined with deepfake videos, voice synthesis, AI chatbots, victims can be lured into scam scenarios without even realizing the manipulation.

E-commerce and job search platforms are primary targets of these attacks. Fraudulent e-commerce sites meticulously mimic real brands, gaining consumer trust through AI-generated reviews, product descriptions, and customer feedback. AI chatbots handling customer service delay refunds or provide responses to appease victims' complaints, masquerading the scam site as a legitimate seller.

In job search platforms, fake job postings combined with AI-generated HR profiles and automated email campaigns mislead job seekers into believing they are genuine opportunities. Even deepfake interview videos are used, leading victims to unknowingly hand over personal and financial information to scammers.

Microsoft introduces various security technologies integrated into their services to counter these threats. Microsoft Edge browser supports features such as deep learning-based fraud domain detection, typo prevention, and scareware blocking to protect users from fraudulent websites.

Defender for Cloud conducts vulnerability assessments and threat detection across the Azure environment, while Microsoft Defender SmartScreen provides cloud-based security features to preemptively block phishing sites and malicious file downloads.

Scams impersonating technical support remain a serious threat. Microsoft reports instances of cybercrime organization 'Storm-1811' exploiting Microsoft's remote support tool 'Quick Assist' to impersonate IT personnel and remotely access victims' computers. This social engineering attack, based on user trust, can cause significant harm even without direct AI involvement.

Microsoft responds to such attacks by blocking suspicious Quick Assist connection attempts in real-time, preventing around 4,400 connections daily. They have also added a feature to display security alerts when a full-screen sharing request is made, increasing awareness of suspicious access attempts.

In corporate environments, Microsoft recommends using the more secure 'Remote Help' feature, which operates only within approved tenants within the organization, making it safer than Quick Assist. Additionally, a system incorporating AI-based digital fingerprint recognition technology is in operation to detect and block fraudulent connections in advance.

Microsoft adopts a security strategy called 'Fraud-resistant by Design,' which includes structural designs for fraud prevention from the early stages of product development. Starting from January 2025, all product development teams are required to conduct security evaluations and implement control mechanisms for fraud detection.

In this report, Kelly Bissell, Vice President of Microsoft's security organization, stated, "Cybercrime has surpassed the realm where individual companies can handle it alone," emphasizing the need for Apple, Google, and Microsoft to share information and technology, forming partnerships to combat cyber threats together.