인공지능(AI)의 부상은 양날의 검과 같습니다. 모든 것이 그렇듯이 파괴적 기술 인공지능은 엄청난 잠재력을 가지고 있지만, 동시에 치명적인 위험도 안고 있습니다. AI 규제에 대한 분명한 움직임에도 불구하고, 위협 행위자들은 공포를 조장하고 아무것도 모르는 사용자를 표적으로 삼기 위해 이용 가능한 다양한 기술을 활용하는 것으로 보입니다.
FraudGPT라는 이름의 ChatGPT 유사 챗봇이 사이버 범죄자들 사이에서 인기를 얻고 있으며, 이를 통해 사이버 범죄자들은 표준 사기 수법의 상당 부분을 자동화하고 실행할 수 있게 되었습니다. 누구든 피해자가 될 수 있으므로 최신 정보를 파악하는 것이 중요합니다.
FraudGPT는 가짜 뉴스 유포 및 폭력 선동 등 다양한 악의적인 목적으로 사용될 수 있습니다. 또한 개인 정보를 훔치거나 사기를 치는 데에도 사용될 수 있습니다. FraudGPT에 대해 지금까지 알려진 모든 정보를 확인해 보세요. ChatGPT가 기밀 정보를 공유하도록 신뢰해서는 안 되는 이유.
로압 스리유에스
FraudGPT란 무엇인가요?
FraudGPT는 사이버 범죄자의 사이버 범죄 실행을 지원하도록 설계된 정교하게 조정된 대규모 언어 모델로 구동되는 AI 도구입니다. 구독 기반 챗봇을 통해 위협 행위자는 위조 카드 제작, 피싱, 악성 코드 등의 범죄 활동을 용이하게 할 수 있습니다.
챗봇에 대한 자세한 내용은 아직 매우 제한적이지만, 해당 회사의 연구원들은 다음과 같은 사실을 밝혔습니다. 네텐리히 보안 연구 회사인 는 다크웹에 이 모델을 광고하는 수많은 광고가 있다고 보고했습니다. Netenrich의 연구 보고서에 따르면, 구독료는 월 200달러에서 연 1700달러까지 다양합니다.
이 도구를 더 잘 이해하기 위해 FraudGPT를 ChatGPT와 비슷하게 생각하시면 됩니다. 하지만 다양한 사기 관련 정보를 제공하도록 맞춤 설계된 도구입니다. 그렇다면 FraudGPT는 정확히 어떻게 작동하며, 사이버 범죄자들은 이를 어떻게 활용할까요?
FraudGPT는 어떻게 작동하나요?
FraudGPT는 근본적으로 LLM 기반 모델과 크게 다르지 않습니다. 다시 말해, 이 모델 자체는 범죄자가 사이버 범죄에 특화된 특수 언어 모델에 접근할 수 있도록 하는 인터페이스입니다.
아직도 무슨 뜻인지 모르시겠어요? 대략적인 의미를 설명해 드리겠습니다. ChatGPT 초창기에는 AI 기반 챗봇이 사이버 범죄자들의 악성 코드 제작을 돕는 것을 포함하여 거의 모든 용도로 활용될 수 있었습니다. 이는 ChatGPT의 기본 언어 모델이 범죄 조직에 잠재적으로 도움이 될 수 있는 데이터를 포함하여 광범위한 데이터 샘플을 포함하는 데이터 세트를 기반으로 학습되었기 때문에 가능했습니다.
대규모 언어 모델에는 일반적으로 과학 이론, 건강 정보, 정치와 같은 유익한 데이터부터 악성 코드 샘플, 소셜 엔지니어링 및 피싱 캠페인 메시지, 기타 범죄 자료와 같은 유익하지 않은 데이터까지 모든 것이 입력됩니다. ChatGPT를 구동하는 것과 같은 언어 모델을 학습하는 데 필요한 데이터 세트를 다룰 때, 모델에 원치 않는 자료 샘플이 포함되는 것은 거의 불가피합니다.
데이터세트에서 원치 않는 자료를 제거하기 위한 일반적인 세심한 노력에도 불구하고, 일부는 데이터에서 빠져나가며, 이는 대개 모델이 사이버 범죄를 조장하는 자료를 생성할 수 있는 능력을 부여합니다. 따라서 적절한 신속 엔지니어링을 통해 ChatGPT, Google Gemini, Bing AI와 같은 도구를 활용하여 피싱 이메일이나 컴퓨터 맬웨어를 작성할 수 있습니다.
ChatGPT와 같은 도구가 지능형 챗봇을 안전하게 만들기 위한 모든 노력에도 불구하고 사이버 범죄자들의 범죄를 저지르는 데 도움이 될 수 있다면, FraudGPT와 같은 도구가 사이버 범죄에 적합하도록 특별히 많은 악성 자료를 제공받았다는 점을 고려하면, 이 도구가 제공할 수 있는 위력을 생각해 보십시오. 마치 ChatGPT의 사악한 쌍둥이가 강화된 것과 같습니다.
따라서 챗봇을 사용하려면 범죄자는 ChatGPT처럼 간단히 프롬프트를 입력하면 됩니다. 예를 들어 ABC 회사에서 일하는 Jane Doe에게 피싱 이메일을 작성하도록 요청하거나, C++를 사용하여 Windows 10 컴퓨터에서 모든 PDF 파일을 훔치는 악성코드를 작성하도록 요청할 수 있습니다. 범죄자는 악성 프롬프트를 입력하고 챗봇이 복잡한 작업을 처리하도록 할 수 있습니다. 확인해 보세요. ChatGPT가 사이버 보안 위협이 될까요? 주의해야 할 사항은 다음과 같습니다..
사기로부터 어떻게 자신을 보호할 수 있나요?
새로운 유형의 도구이기는 하지만 FraudGPT가 제기하는 위협은 근본적으로 다르지 않습니다. 오히려 기존 사이버 범죄 수법에 더 큰 자동화와 효율성을 제공한다고 주장할 수 있습니다.
이 모델을 사용하는 범죄자들은 적어도 이론적으로는 더욱 설득력 있는 피싱 이메일을 작성하고, 더 나은 사기 수법을 계획하고, 더 효과적인 악성코드를 제작할 수 있지만, 여전히 악의적인 계획을 실행하기 위해 기존 방식에 의존합니다. 따라서 일반적으로 다음과 같은 기존 보호 방법이 적용됩니다.
- 정보를 요청하거나 링크 클릭을 유도하는 원치 않는 메시지에 주의하세요. 출처를 확인하기 전에는 이러한 메시지에 정보를 제공하거나 링크를 클릭하지 마세요.
- 신뢰할 수 있는 독립적이고 검증된 전화번호를 사용하여 회사에 직접 연락하여 신원을 확인하세요. 의심스러운 메시지에 제공된 연락처 정보는 사용하지 마세요.
- 강력하고 고유하며 해독하기 어려운 비밀번호를 사용하고, 모든 계정에 2단계 인증을 적용하는 것이 좋다면 도입하세요. 전송된 비밀번호나 코드는 절대 공유하지 마세요.
- 정기적으로 계좌 거래 내역을 확인하여 의심스러운 활동이 있는지 확인하세요.
- 앱을 최신 상태로 유지하고 바이러스 백신이나 맬웨어 방지 도구를 사용하세요.
- 필요하지 않을 경우 개인 정보나 금융 정보가 포함된 문서를 분쇄하세요.
자신을 보호하는 방법에 대해 자세히 알아보려면 다음 가이드를 읽어보세요. 인공지능 시대에 자신을 보호하는 방법.
자신을 보호하기 위해 정보를 얻으세요
FraudGPT와 같은 도구의 등장은 AI가 제공할 수 있는 모든 이점에도 불구하고 위협 행위자의 손에 들어가면 여전히 매우 강력한 도구라는 사실을 일깨워줍니다.
정부와 대형 AI 기업들이 AI 규제를 위한 더 나은 방안을 개발하기 위해 경쟁하는 가운데, AI가 현재 제기하는 위협을 인지하고 스스로를 보호하기 위한 예방 조치를 취하는 것이 중요합니다. 지금 바로 확인해 보세요. 인공지능과 개인정보 보호 위험: 자동화된 세상에서 데이터 보호하기.
