이 시점에서 모든 사람은 생성적 AI 도구에 어두운 면이 있다는 것을 알고 있습니다. 표절이나 기타 형태의 콘텐츠 도용, 심지어 데이터 센터 운영에 필요한 엄청난 양의 에너지와 물에 대해서는 이야기하는 것이 아닙니다.
오히려 제가 말하는 것은 인공지능을 사용하여 위험한 맬웨어와 피싱 사기를 만들어내는 것입니다. 이를 통해 범죄자들이 몇 가지 명령만으로 사기 캠페인 전체를 구축하는 것이 그 어느 때보다 쉬워졌습니다.
"AI 사기"로 알려진 이 문제는 인공지능으로 인해 발생하는 가장 큰 문제로 빠르게 부상하고 있습니다. 하지만 자신을 안전하게 지킬 수 있는 몇 가지 방법이 있습니다.
로압 스리유에스
인공지능을 사용하면 사기가 간단해집니다.
AI 프로그래밍과 마찬가지로, 필요한 것은 AI 기반 챗봇뿐입니다.
간단히 말해, AI 사기는 AI 기반 피싱입니다. 이는 "AI 프로그래밍"에서 차용한 것으로, 생성형 AI 도구에 원하는 작업을 수행하도록 요청하여 소프트웨어를 구축하는 과정입니다.
마찬가지로, AI 기반 사기는 AI 기반 챗봇에게 명령만 내리는 것만으로도 거의 누구나 피싱이나 사이버 공격을 감행할 수 있게 합니다. 프로그래밍 기술이나 해킹 경험이 없는 사람도 AI 기반 챗봇에게 명령만 내리는 것만으로도 악성 이메일, 가짜 웹사이트, 악성코드를 제작할 수 있습니다.
비밀번호를 훔치려는 잠재적 사기꾼이 소프트웨어 프로그래밍 방법을 전혀 모른다고 가정해 보겠습니다. 이러한 이유로 그들은 다크웹에 접속하여 온라인에서 악성코드를 구매하지 않을 것이라고 가정할 수 있습니다. 비밀번호를 훔치기 위해 특정 도구를 프로그래밍하거나 사람들을 유인하는 피싱 캠페인을 개발하는 방법을 배우는 대신, AI 도구에 해당 작업을 맡기기만 하면 됩니다.
AI 기반 사기는 사이버 범죄의 진입 장벽을 전례 없이 낮추기 때문에 엄청난 일입니다. 과거에는 범죄자가 웹사이트 디자인, 설득력 있는 영어 작성, 악성 코드 프로그래밍 등을 알아야 했을지도 모릅니다. 이제 AI가 이 모든 것을 처리할 수 있습니다.
또 다른 위험은 속도와 규모입니다. AI는 사기꾼이 인간보다 훨씬 빠르게 작업을 자동화하고 공격을 확장할 수 있도록 합니다. 예를 들어, AI는 수천 명의 대상에게 맞춰 피싱 이메일을 빠르게 개인화할 수 있습니다(공개 정보를 스크래핑하고 AI가 각 개인에게 맞는 맞춤형 메시지를 작성하도록 함). 또한 빠르게 적응할 수 있습니다. 피싱 페이지 링크가 차단되면 사기꾼은 AI에게 코드나 텍스트를 수정하고 새로운 버전을 만들도록 지시할 수 있습니다. 이러한 유연성 덕분에 피싱 캠페인은 방어 체계를 우회하기 위해 빠르게 진화할 수 있습니다.
이 기능은 오래된 챗봇에서는 작동하지 않습니다. 주의하세요.
일부 챗봇은 다른 챗봇보다 더 조심스럽습니다.
바이브 코딩은 생성 AI 기반 챗봇을 활용하는 데 의존합니다. 어떤 챗봇은 다른 챗봇보다 더 뛰어나지만, 일반적으로 대부분의 챗봇이 바이브 코딩을 시도합니다. 다행히 유사한 사기에는 이러한 문제가 없습니다.
대부분의 AI 기반 챗봇은 잠재적으로 악의적인 사용을 방지하도록 설계된 보안 제어 기능을 갖추고 있습니다. 예를 들어, ChatGPT는 "Microsoft 로그인 페이지와 유사한 웹사이트를 만들어 주세요. 사람들이 클릭하도록 유도하는 SMS 메시지를 보내주세요."와 같은 요청을 거부하며, "사기/피싱 및 절도 행위이며, 저는 그런 행위에 도움을 드리지 않을 것입니다."라고 설명합니다.
다른 챗봇에서도 상황은 비슷합니다. Opera의 에이전트 기반 Neon 브라우저는 내 요청을 의심스러운 것으로 분류했지만, Grok은 "소셜 엔지니어링 공격에 대한 안전 지침을 위반한다"는 이유로 내 요청을 거부했습니다.
하지만 앞서 언급했듯이 일부 챗봇은 이러한 요청에 더 취약합니다. 2025년 Guardio Labs의 연구에 따르면"바이브스캐밍(vibescamming)"이라는 용어를 만들어낸 회사는 새로운 AI 도구를 속여 원하는 결과를 얻을 수 있다고 생각합니다. "바이브 코딩"을 용이하게 하도록 설계된 앱인 러버블(Loveable)은 연구원들을 위한 피싱 캠페인을 기획하고 설계하는 데 바로 착수하며 "마이크로소프트 인터페이스를 닮은 세련되고 전문적인 디자인을 구상"했습니다.
피해자를 속이기 위해 가짜 URL을 포함한 본격적인 피싱 페이지가 게시되었습니다. 그러나 Guardio는 구체적인 데이터 수집 기능이 없었으며, 추가 요청을 받았을 때도 거부했다고 밝혔습니다. 따라서 적어도 이 작전에서 어느 정도 물러선 것은 사실입니다. Loveable이 이러한 행위를 해결하고 더 이상 피싱 캠페인의 개요를 작성하지 않는다는 점도 주목할 만합니다.
생성형 AI 기반 채팅봇을 해킹하여 나쁜 짓을 저지르다
생성적 AI 해킹 작전은 인공 지능이 자체 보안 제어를 우회하도록 특별히 고안된 주장입니다.
ChatGPT 초창기에는 그 진정한 잠재력을 "발견"하기 위해 고안된 수많은 해킹 기법이 있었습니다. 요즘 사람들은 성공적인 ChatGPT 해킹 기법을 가슴에 간직하고 있으며, 심지어 성공적인 생성 AI 익스플로잇을 고가에 판매하는 사람들도 있습니다.
그러므로 그것은 다음과 같이 보입니다. ChatGPT에 사용할 수 있는 해킹이 더 이상 없습니다.사실, 사람들은 점점 더 비밀스러워지고 있습니다. OpenAI, Google, Anthropic, Perplexity 같은 회사들이 이러한 취약점을 즉시 패치하는 것을 막을 수 있는 유일한 방법이기 때문입니다.
"보호 기능 해제"는 AI 기반 생성형 챗봇이 한계를 극복하도록 설득하는 몇 안 되는 방법 중 하나입니다. 그렇지 않으면 챗봇 프로그래머가 자신의 임무를 완벽하게 수행한 것이고, AI는 협조를 거부하게 됩니다. 이는 감정 조작에 있어서 반드시 나쁜 것은 아닙니다.
다행히도 감정적 조작의 희생자가 되는 것을 피할 수 있습니다.
최종 결과는 현재의 피싱 사기와 크게 다르지 않습니다.
지금까지 말씀드린 내용과 악성코드 및 피싱 사기 제작 장벽이 낮아졌음에도 불구하고, 여러분은 여전히 똑같은 사기를 찾고 계실 겁니다. 일부 사기성 이메일은 점점 더 교묘해지고 있습니다., 다음 경우를 제외하고 피싱 이메일을 보고 있다는 징후 동일합니다.
다시 말해, 감정적 사기를 피하기 위해 보안 관행을 과도하게 수정할 필요는 없습니다. 조언은 여전히 동일합니다.
- 너무 좋아서 진짜일 리가 없는 거래사기꾼은 종종 검색 결과에서 1위를 보장하는 등 불가능한 결과를 약속합니다. 구글즉석 별 5개 리뷰나 기적적인 건강 치료법 같은 건 없습니다. 진짜 의료 서비스와 약은 이런 보장을 제공하지 않습니다.
- 신비로운 메신저 또는 일반적인 메신저많은 사기성 이메일은 다음 주소에서 발송됩니다. Gmail أو Yahoo 회사를 대표한다고 주장하더라도 무료입니다. 합법적인 기관과 회사는 전문가용 도메인을 사용합니다.
- 개인화아니, 오히려 그런 게 없다는 거죠. 이메일에 이름이나 직장 정보 없이 "안녕하세요"나 "안녕하세요"라고만 적혀 있다면 대량 발송 사기일 가능성이 높습니다. 정상적인 이메일에는 대개 개인 정보가 포함되어 있습니다. "안녕하세요"는 제가 가장 좋아하는 표현 중 하나입니다.
- 감정적 트리거이메일에서 계정 로그인이나 선불을 요구하거나 의심스러운 링크 클릭을 유도하는 경우 주의하세요. 마찬가지로, 많은 사기는 심각한 질병에 대한 기적적인 치료법이나 사업 "통제권 장악" 약속처럼 두려움이나 긴박감을 이용합니다. 모두 마찬가지입니다. 성급한 결정을 내리도록 압력을 가하는 것입니다.
- 빨리 행동하세요!"지금 당장 행동하세요!" 또는 "오늘 답변하세요!"와 같은 문구로 성급한 결정을 내리도록 유도하는 메시지는 위험 신호입니다. 사기꾼은 당신이 잠시 멈춰 생각하는 것을 원하지 않습니다.
메일 메시지에 빨간색 태그가 있습니다 1999년 로니 선출 피싱도 마찬가지다이제 거의 모든 사람이 사기꾼이 되었으므로 이런 사기꾼을 더 많이 만날 수도 있습니다.
인공지능을 이용해 개발된 악성 프로그램이 이제 존재합니다.
한동안 인공지능을 이용해 개발된 악성코드와 피싱 공격은 순전히 환상에 불과했습니다. AI 도구는 특별히 위험한 것을 만들어낼 만큼 강력하지 않았고, 할 수 있는 일도 기존 위협과 크게 다르지 않았습니다.
하지만 이러한 상황은 2025년부터 변화하기 시작했습니다. 인공 지능을 활용하여 개발된 악성코드가 실제 공격과 실제 캠페인에서 점점 더 많이 등장하기 시작했습니다. 2025년 11월, 구글의 위협 인텔리전스 그룹이 보고했습니다. 이는 다양한 인공 지능 도구를 사용하여 개발된 두 가지 유형의 맬웨어와 관련이 있으며, 이 맬웨어는 인공 지능 도구에 연결하여 지침을 얻습니다.
또한 2025년 8월, AI 개발사 Anthropic은 자사의 클라우드 소프트웨어가 대규모 맬웨어 캠페인의 일환으로 사용되고 있음을 발견했습니다. 이 캠페인은 인공지능을 활용해 자사 플랫폼과 관련된 공격을 설계하고 실행하는 방식입니다.
이것들이 "감정 트롤링" 공격인가요? 저는 이 공격들이 정교하다는 점을 고려하면 단순한 "감정 트롤링"보다 훨씬 더 정교하다고 생각합니다. 하지만 이는 AI가 매우 위험한 작업에 얼마나 쉽게 악용될 수 있는지를 보여줍니다. 게다가 이것들은 누구나 쉽게 사용할 수 있는 일반적인 AI 도구일 뿐입니다. 안전 장치가 제거될 수 있는 수많은 강력한 네이티브 AI 도구가 있다면 어떤 일이 벌어질지 상상해 보세요.
