요약:
- 연구자들은 GPT 시대 이전의 스팸 메시지와 GPT 시대 이후에 나타난 스팸 메시지를 비교했습니다.
- 오늘날 대부분의 스팸은 인공지능에 의해 생성됩니다.
- BEC 메시지는 더 높은 정확도를 요구합니다.
최근 연구에 따르면 오늘날 발송되는 스팸 이메일의 대부분은 생성 인공지능(GenAI)에 의해 작성되는 것으로 나타났습니다.
바라쿠다 네트웍스(Barracuda Networks)의 보고서에 따르면 사이버 범죄자들은 AI를 공격 방식을 근본적으로 바꾸는 데 사용하는 것이 아니라, 공격 방식을 개선하고 탐지를 어렵게 만드는 데 활용하고 있습니다. 이러한 개선에는 언어의 질, 메시지 디자인, 그리고 더욱 신뢰할 수 있는 것처럼 보이도록 하는 개인화 기능 등이 포함됩니다.
이 연구는 ChatGPT 도입 이전(2022년 11월 이전)에 발송된 이메일과 이후 발송된 이메일을 비교한 결과, 범죄자들이 주로 GenAI를 스팸 발송에 활용한다는 상당한 변화를 발견했습니다. 이러한 변화는 합법적인 메시지와 악성 메시지를 구분하기가 점점 더 어려워짐에 따라 개인과 조직 모두에게 심각한 문제를 야기합니다.
신뢰성을 강화하다
연구에 따르면 2025년 4월까지 스팸 이메일의 51%가 인간이 아닌 인공지능에 의해 생성될 것으로 예상됩니다. 이러한 변화는 사이버 보안 분야에 중대한 과제를 안겨줍니다.
연구진은 "현재 스팸/정크 메일 폴더에 있는 이메일의 대부분은 대규모 언어 모델(LLM)로 작성되었다"고 설명했습니다. 이는 인공지능이 스팸 발송자의 핵심 도구가 되었다는 것을 의미합니다.
반면, 범죄자들은 비즈니스 이메일 침해(BEC) 공격에 AI를 활용하는 데 소극적인 것으로 보입니다. 연구원들에 따르면, 이러한 유형의 공격은 높은 정확도를 요구하며 일반적으로 조직 내 고위직을 표적으로 삼습니다. 결과적으로 2025년 4월까지 BEC 공격의 14%만이 AI에 의해 발생했습니다.
예상대로 AI가 생성한 메시지는 더 잘 작성되었습니다. 더 높은 수준의 격식을 갖추고, 문법 오류가 적으며, 언어적 정교함이 뛰어납니다. 결과적으로 피해자에게 더 신뢰할 만하고 전문적으로 보여 사기당할 가능성이 높아집니다.
이는 또한 모국어가 영어가 아닌 사이버 공격자들이 영어권 국가의 기업을 공격하는 데 어려움을 겪지 않게 된다는 것을 의미합니다. 마지막으로, 사기꾼들은 AI를 사용하여 다양한 스팸 변형에 대한 A/B 테스트를 실시하여 실제 환경에서 더 효과적인 문구 변형을 찾아내는 것으로 보입니다.
AI가 생성하는 스팸을 방어하는 가장 좋은 방법은 AI 기반 이메일 보안 솔루션을 사용하는 것입니다. GPT 이전 시대에는 이메일을 스캔하는 것만으로도 피싱과 스팸을 감지할 수 있었습니다. 이러한 메시지는 일반적으로 철자와 문법 오류가 가득했고, 언어도 거칠고 익숙하지 않은 경우가 많았습니다.
AI가 이러한 위험 신호를 제거했기 때문에 다중 계층 감지 기능을 갖춘 고급 이메일 보안 솔루션이 활성화되었습니다. 인공지능/머신러닝(AI/ML)연구원들은 이것이 "중요하다"고 결론지었습니다. 이를 위해서는 첨단 위협으로부터 조직을 보호하기 위한 첨단 기술에 대한 투자가 필요합니다.
