온라인 데이팅 앱은 오랫동안 연애 사기와 연애 사기의 온상이 되어 왔습니다. 사이버 범죄자들은 돈, 개인 정보, 개인 사진을 훔치기 위해 온갖 수단을 동원합니다. 그들의 가짜 프로필은 어디에서나 발견할 수 있습니다.
AI 생성 도구의 확산으로 연애 사기와 연애 사기가 더욱 쉬워지고 있습니다. 이러한 도구들은 진입 장벽을 낮춰줍니다. 사기꾼들이 AI를 악용하는 몇 가지 일반적인 수법과 스스로를 보호하는 방법을 소개합니다. 생성 AI 보안 문제가 악화되는 이유.
로압 스리유에스
1. AI가 생성한 이메일 보내기
스팸 이메일을 걸러내는 것이 점점 더 어려워지고 있습니다. 로맨스 및 로맨스 사기는 AI 생성 도구를 악용하여 사기성이 강하고 설득력 있는 메시지를 작성하고 몇 분 만에 여러 계정을 생성합니다. 사기꾼은 거의 즉시 수백 명의 사람에게 접근할 수 있습니다.
이메일 받은편지함뿐만 아니라 여러 플랫폼에서 AI가 생성한 스팸 메시지를 보게 될 것입니다. 잘못된 번호로 보내는 사기를 예로 들어보겠습니다. 사기꾼은 귀여운 셀카나 선정적인 이미지를 대량으로 보냅니다. 누군가 답장하면 무고한 피해자로 간주됩니다.
누군가 연락하면 다른 메시지 플랫폼(예: WhatsApp 또는 Telegram)으로 연결됩니다. 대부분의 사기는 몇 주 동안 지속됩니다. 사기꾼은 대상에게 투자 사기에 가입하거나, 공과금 납부를 돕거나, 여행 경비를 지불하도록 요구하기 전에 점차 신뢰를 쌓습니다.
스팸 메시지를 아예 받지 않도록 주의하세요. 낯선 사람과의 접촉은 최소화하세요. 상대방의 외모나 제공하는 서비스에 관계없이 말이죠.
2. 더 많은 대화에 빠르게 응답하세요
챗봇은 인터넷에서 산불처럼 퍼지고 있습니다. Imperva 악성 봇은 2022년 자동화된 웹 트래픽의 30%를 차지했습니다. Tinder 페이지를 스크롤하면 몇 초 안에 악성 봇을 발견할 수 있습니다.
봇이 급증한 이유 중 하나는 대량의 봇 개발을 지원하는 생성형 AI 도구의 확산입니다. 올바른 프롬프트를 입력하기만 하면 도구가 봇 생성을 위한 완전하고 효율적인 코드 조각을 제공합니다.
봇과 대화할 때를 파악하세요. AI는 자연스러운 대화 톤을 사용하지만, 대화는 여전히 단조롭고 혼란스러울 수 있습니다. 결국 챗봇은 패턴만 따르기 때문입니다. 서로 다른 질문, 진술, 요청에 대해 비슷한 답변을 내놓을 수 있습니다.
3. 도난된 이미지에서 여러 개의 신원 생성
AI 아트 생성기는 이미지를 조작합니다. 아래 데모를 예로 들어 보겠습니다. Playground AI에 유명 가수의 선명한 이미지를 입력했더니, 플랫폼은 몇 초 만에 세 가지 다른 이미지를 생성해 냈습니다.
네, 몇 가지 단점이 있습니다. 하지만 텍스트 프롬프트를 이미지로 변환하는 데 오래된 모델을 사용하는 무료 도구를 사용했다는 점에 유의하세요. 이 사기꾼은 복잡한 반복 작업을 통해 더욱 사실적인 결과물을 생성합니다. 단 몇 개의 샘플만으로도 수백 개의 맞춤 설정 및 처리된 이미지를 빠르게 표시할 수 있습니다.
안타깝게도 AI 이미지는 감지하기 어렵습니다. 가장 좋은 방법은 역방향 이미지 검색을 수행하여 관련 결과를 구체화하는 것입니다. 확인해 보세요. DALL-E란 무엇이고, 텍스트 설명에서 어떻게 이미지를 생성하나요?
4. 진짜처럼 보이는 가짜 계정을 만드세요.
봇은 피해자에게 대량으로 접근합니다. 따라서 로맨스 사기꾼은 진짜처럼 보이는 프로필을 한두 개만 만드는 표적 수법을 선호합니다. 그들은 설득력 있게 보이기 위해 인공지능을 사용합니다. 생성 AI 도구는 자연스럽고 진실되게 들리는 진짜처럼 보이는 설명을 작성할 수 있으므로, 문법 오류는 더 이상 문제가 되지 않습니다.
ChatGPT에서는 데이트 프로필에 포함할 수 있는 몇 가지 취미를 제안합니다.
ChatGPT가 여러분의 데이트 프로필에 대한 완전한 자기소개를 작성해 드립니다.
이 과정은 시간이 오래 걸리기 때문에 더 큰 수익이 필요합니다. 따라서 사기꾼은 더 많은 것을 요구하는 경향이 있습니다. 일단 신뢰를 얻으면 병원비, 대출금, 학자금 대출 등 다양한 "문제"에 대한 도움을 요청합니다. 누군가는 티켓 값을 지불하면 방문하겠다고 주장할 수도 있습니다.
이러한 사이버 범죄자들은 피해자를 조종하는 데 능숙합니다. 최선의 방법은 처음부터 그들과 접촉하지 않는 것입니다. 그들이 아무 말도 하지 못하게 하세요. 그렇지 않으면 그들의 속임수와 조종 전략에 점점 더 속아 넘어갈 수 있습니다.
5. 성적 협박을 위한 딥페이크 기술 악용
첨단 AI 기반 딥페이크 도구가 놀라운 속도로 발전하고 있습니다. 새로운 기술 덕분에 딥페이크 영상의 부자연스러운 깜빡임, 고르지 않은 피부톤, 왜곡된 오디오, 일관성 없는 아티팩트 등 사소한 결함이 줄어들고 있습니다.
안타깝게도 이러한 오류는 경고 신호이기도 합니다. 사용자가 직접 삭제할 수 있게 되면 합법적인 동영상과 가짜 동영상을 구분하기 어려워집니다.
블룸버그는 기본적인 기술 지식만 있으면 누구나 자신의 목소리와 영상을 조작하여 다른 사람의 모습을 흉내 낼 수 있다는 것을 보여줍니다. 확인해 보세요. 딥페이크 기술의 주요 위험과 이를 감지하는 방법.
사기꾼들은 현실적인 데이트 계정을 만드는 것 외에도, 딥페이크 도구를 이용해 성착취물을 유포하고, 공개된 사진과 영상을 음란물과 섞습니다. 불법 콘텐츠를 조작한 후, 피해자들을 협박하고 돈, 개인 정보 또는 성적 호의를 요구합니다.
표적이 되더라도 포기하지 마세요. 이런 상황에 처했다면 1-800-FBI로 전화하거나, 법 집행 기관에 연락하거나, 지역 경찰서를 방문하세요.
6. 비밀번호에 접근하기 위해 해킹 시스템에 AI 모델을 통합합니다.
오픈소스 언어 모델은 인공지능의 발전을 어느 정도 지원하지만, 악용될 가능성도 있습니다. 범죄자는 접근 가능한 모든 것을 악용할 것입니다. LLaMA나 OpenAssistant처럼 매우 복잡한 언어 모델의 알고리즘을 무시할 것이라고 기대할 수는 없습니다.
로맨스 사기에서 해커는 종종 언어 모델과 비밀번호 해독을 결합합니다. 인공지능의 머신러닝과 딥러닝 기능을 통해 강력한 해킹 시스템은 비밀번호 조합을 빠르고 효율적으로 생성할 수 있습니다. 충분한 맥락 정보가 제공되면 정보에 기반한 예측도 가능합니다.
사기꾼이 무슨 짓을 하는지는 당신이 통제할 수 없습니다. 계정을 보호하려면 특수 문자, 영숫자 조합, 그리고 14자 이상을 포함하는 정말 안전한 비밀번호를 만드세요. 비밀번호 크래킹은 어떻게 작동하나요? 알아야 할 사항.
7. 목소리를 복제하여 실제 사람을 모방
AI 음성 생성기는 멋진 게임으로 시작되었습니다. 사용자들은 좋아하는 아티스트의 트랙 샘플을 노래나 심지어 새로운 노래로 바꿔 부르곤 했습니다. 예를 들어 "Heart on My Sleeve"를 보세요. TikTok 사용자 Ghostwriter977은 드레이크와 더 위켄드를 흉내 내는 초현실적인 노래를 만들었는데, 두 아티스트 모두 그 노래를 부르지 않았음에도 불구하고 말입니다.
농담과 밈에도 불구하고, 음성 합성은 매우 위험합니다. 범죄자들이 정교한 공격을 감행할 수 있도록 하기 때문입니다. 예를 들어, 연애 사기범들은 음성 복제 도구를 이용하여 피해자에게 전화를 걸고 사기성 녹음을 남깁니다. 음성 합성에 익숙하지 않은 피해자는 이상한 점을 알아차리지 못할 것입니다.
출력 오디오가 어떻게 합성되는지 연구하여 AI 음성 복제로부터 자신을 보호하세요. 이러한 생성기를 살펴보세요. 거의 동일한 복제본만 생성하지만, 여전히 몇 가지 결함과 불일치를 발견하게 될 것입니다. 확인해 보세요. 정부가 AI 도구를 규제할 수 있는 방법.
데이트 중 AI 사기꾼으로부터 자신을 보호하세요
생성적 AI 도구가 발전함에 따라, 연애 사기는 이를 악용하는 새로운 수법을 개발할 것입니다. 개발자는 이러한 범죄자들을 막을 수 없습니다. 보안 제한이 효과가 있을 것이라고 단순히 믿는 대신 사이버 범죄에 적극적으로 대처하십시오. 데이팅 앱은 여전히 사용할 수 있습니다. 하지만 화면 반대편에 있는 사람과 소통하기 전에 반드시 상대방을 알아야 합니다.
AI 기반 사기 수법에도 주의하세요. 로맨스 스캠 외에도 범죄자들은 신원 도용, 사이버 협박, 랜섬웨어 공격, 그리고 폭력적인 해킹에 AI를 악용하고 있습니다. 이러한 위협에 대처하는 방법도 알아보세요. 지금 바로 확인해 보세요. 생성 AI 도구 사용 시 피해야 할 실수.
