다양한 디지털 플랫폼을 통해 온라인 데이트 사기를 당하는 사례가 빈번하게 발생하고 있으며, 이들은 잠재적인 연애 상대로 위장하여 의심하지 않는 사용자로부터 금전, 민감한 데이터, 은밀한 이미지를 가로채려고 합니다. 이러한 사기 행위는 이러한 데이트 애플리케이션에서 널리 퍼져 있습니다.
인공 지능(AI) 도구가 널리 보급됨에 따라 이러한 기술로 인해 가해자가 이러한 사기를 더 쉽게 수행할 수 있게 되면서 로맨스 사기의 확산이 증가했습니다. 또한 이러한 발전으로 인해 이러한 유형의 사기 행위에 참여하는 데 필요한 장벽이 낮아져 더 많은 사람들이 쉽게 접근할 수 있게 되었습니다. 로맨스 사기범들이 일반적으로 사용하는 몇 가지 수법은 AI 기술을 활용하며, 이러한 사기 행위에 속지 않도록 적절한 조치를 취하기 위해서는 이러한 위험을 인식하는 것이 중요합니다.
AI로 생성된 이메일 대량 발송
로맨스 사기꾼들이 인공지능과 같은 첨단 기술을 널리 사용하여 매우 설득력 있고 기만적인 메시지를 작성하기 때문에 스팸 이메일과 합법적인 이메일을 구별하기가 점점 더 어려워지고 있습니다. 또한, 이들은 여러 개의 계정을 생성하는 전략을 사용하여 단기간에 빠르게 도달 범위를 확장하고 많은 수의 수신자를 타겟팅합니다.
인공지능(AI)이 생성한 스팸 메시지가 이메일 받은 편지함을 넘어 여러 플랫폼에서 널리 퍼지는 것은 흔한 현상입니다. 이러한 맥락에서 ‘잘못된 번호’ 사기는 사기범들이 일반적으로 매력적인 개인이나 친밀한 활동을 하는 사람들의 모습을 담은 원치 않는 사진을 의심하지 않는 수신자에게 대량으로 발송하는 대표적인 사례입니다. 이러한 메시지에 응답하는 사람이 있으면 가해자는 무심한 척하며 불법적인 목적으로 그들과 관계를 맺으려고 시도합니다.
연락을 받은 개인은 이후 WhatsApp 또는 텔레그램과 같은 다른 인스턴트 메시징 플랫폼으로 연결됩니다. 이러한 사기 활동의 대부분은 몇 주 동안 지속되며, 이 기간 동안 사기범은 투자 계획에 참여를 권유하거나 비용을 부담하거나 여행 경비를 지불하도록 요청하기 전에 의도한 피해자와 꾸준히 친분을 쌓습니다.
원치 않는 메시지나 개인적으로 알지 못하는 개인을 상대할 때는 주의를 기울여야 합니다. 잠재적인 사기 행위 또는 유해한 의도에 대한 예방 조치로 이러한 당사자와의 상호작용을 피하세요.
더 많은 대화에 빠르게 응답하기
봇이 온라인에서 들불처럼 번지고 있습니다. Imperva 악성 봇이 자동화된 웹 트래픽의 30%를 차지한다는 보고가 있습니다.
최근 챗봇의 보급률이 급증한 것은 이러한 프로그램을 대량 생산할 수 있는 생성형 인공 지능 기술이 널리 보급되었기 때문일 수 있습니다. 이러한 도구는 몇 가지 입력만으로 새로운 챗봇을 생성할 수 있는 포괄적이고 효과적인 코드 스니펫을 생성합니다.
인공 지능은 사람의 대화를 모방하기 위해 톤을 사용하지만, 자연스러운 말의 미묘한 억양과 굴절이 부족한 경우가 많습니다. 챗봇은 미리 정해진 알고리즘과 스크립트로 작성된 응답에 의해 제한되기 때문에 형식적이거나 로봇적인 전달이 될 수 있습니다. 따라서 사용자는 자신이 기계와 대화하는 것인지 살아있는 존재와 대화하는 것인지 구분하기 어려울 수 있습니다.
도난 이미지에서 여러 개의 신원 생성
닫기
이미지 생성에 인공지능을 활용하면 유명 뮤지션의 솔직한 사진을 Playground AI 플랫폼에 제출하면 단 몇 초 만에 세 개의 다른 반복이 생성되는 사례에서 보듯이 시각 콘텐츠의 조작이 가능해졌습니다.
구식 텍스트-이미지 알고리즘으로 작동하는 활용된 소프트웨어가 생성한 결과물에 불완전한 부분이 있다는 것은 인정하지만, 사기꾼은 더 발전된 기술을 사용하여 매우 설득력 있고 개인화된 이미지를 만든다는 점에 유의해야 합니다. 제한된 샘플 데이터만을 사용하여 여러 버전의 맞춤형 시각적 콘텐츠를 빠르게 생성할 수 있기 때문에 속일 가능성이 상당히 높아졌습니다.
유감스럽게도 AI 이미지를 탐지하는 것은 어려운 일입니다. 한 가지 권장되는 접근 방식은 역 이미지 검색을 수행하고 얻은 결과를 주의 깊게 검토하여 잠재적인 합성 자산을 식별하는 것입니다.
속일 수 없을 정도로 진짜처럼 보이는 프로필 만들기
로맨스 사기꾼들이 사용하는 수법이 진화하여 이제는 인공 지능(AI) 기술을 활용하여 데이트 웹사이트에서 고도로 개인화되고 그럴듯한 프로필을 만들 수 있게 되었습니다. 이러한 사기꾼은 여러 개의 가짜 계정을 대량으로 생성하는 대신 머신 러닝 알고리즘을 사용하여 완벽에 가까운 문법으로 사실적으로 들리는 메시지와 설명을 생성하는 보다 타깃화된 접근 방식을 선택합니다.이를 통해 상대방은 자신의 진정한 의도를 드러내고 금전이나 민감한 정보를 요구하기 전에 상대방과 신뢰와 친밀감을 쌓을 수 있습니다.
ChatGPT는 개인의 관심사와 성격 특성에 대한 추가적인 통찰력을 제공하기 위해 특정 여가 활동을 온라인 데이트 프로필에 포함할 것을 권장합니다.
인공지능 언어 모델로서의 전문성을 활용하여 온라인 데이트 프로필에 포함할 포괄적인 전기 스케치를 작성할 수 있도록 허용합니다.
이 과정의 장기적인 특성은 종종 상당한 보상으로 이어지며, 이는 사기범들이 더 높은 보상을 요구하도록 동기를 부여합니다. 따라서 일단 신뢰를 얻은 사기범은 의료비, 대출금 상환, 교육비 등 다양한 명목의 곤경에 처한 피해자에게 도움을 요청할 수 있습니다. 일부는 여행 경비를 부담하는 조건으로만 귀하를 만나러 온다고 주장할 수도 있습니다.
개인의 취약점을 악용하는 데 탁월한 기술을 가진 사이버 범죄자를 상대할 때는 주의를 기울여야 합니다. 사이버 범죄자는 조작 및 가스라이팅과 같은 전술을 사용할 수 있으며, 이는 결국 사람의 판단력을 점차적으로 손상시킬 수 있으므로 어떤 방식으로든 그들과의 관계를 자제하는 것이 좋습니다.
딥페이크 기술을 악용한 성 착취
AI 기반 딥페이크 도구의 개발이 전례 없이 가속화되고 있으며, 새로운 혁신을 통해 비정상적인 깜박임, 불일치하는 피부 톤, 뒤틀린 오디오 및 기타 측면의 불일치 등 작은 결함을 줄여 동영상의 품질을 크게 개선하고 있습니다.
유감스럽게도 이러한 부정확성은 의심의 신호로 작용합니다. 이러한 불일치를 근절할 수 있도록 허용하면 진짜와 조작된 동영상을 구분하는 데 방해가 됩니다.
블룸버그는 초보적인 기술 숙련도를 활용하여 음성 및 시각적 표현을 모두 변경하여 다른 사람의 목소리를 흉내낼 수 있는 가능성을 보여줍니다.
그럴듯한 온라인 데이트 프로필을 만드는 데 딥페이크와 같은 첨단 기술을 활용하는 것은 합법적인 목적에만 국한되지 않습니다. 안타깝게도 사이버 범죄자들은 이러한 기술을 악의적인 목적, 특히 성적 갈취와 관련된 목적으로 사용하는 것으로 알려져 있습니다. 가해자는 소셜 미디어 계정이나 기타 출처에서 가져온 무고한 이미지와 동영상을 노골적인 성인용 자료와 결합하여 개인이 부적절한 행동을 하는 것처럼 거짓으로 묘사하는 합성 동영상을 만들 수 있습니다.이후 범죄자는 피해자에게 금전적 보상, 민감한 개인 정보를 제공하도록 강요하거나 조작된 영상을 지인이나 다양한 플랫폼에 유포하겠다고 협박하여 추가적인 불법 행위에 가담하도록 유도할 수 있습니다. 이러한 행위는 오용과 관련된 잠재적 위험을 보여줍니다
표적이 된 경우 압력에 굴복하지 말고 무료 전화 1-800-CALL-FBI로 전화하거나 웹사이트를 통해 제보를 제출하거나 가까운 FBI 현장 사무소를 방문하여 연방수사국에 즉시 연락하는 것이 중요합니다.
무차별 암호 대입 해킹 시스템과 AI 모델 통합
오픈 소스 언어 모델은 일부 AI 발전을 지원하지만, 악용되기 쉽기도 합니다. 범죄자들은 무엇이든 이용합니다. LLaMA 및 OpenAssistant 과 같은 고도로 정교한 언어 모델 뒤에 숨은 알고리즘을 무시할 것이라고 기대할 수는 없습니다.
로맨스 사기에 인공 지능을 활용하는 경우 비밀번호 해독을 목적으로 언어 모델과 통합하는 경우가 많습니다. 이러한 모델의 고급 자연어 처리(NLP) 및 기계 학습 기능을 통해 무차별 암호 대입 방법을 통해 가능한 많은 수의 비밀번호를 신속하게 생성할 수 있으며, 충분한 정보 가용성을 기반으로 보다 정확하고 정보에 입각한 예측을 제공할 수 있습니다.
사기꾼의 악의적인 활동을 규제하는 것은 사람의 힘으로는 불가능합니다. 이러한 악의적인 의도로부터 계정을 보호하려면 다양한 기호, 알파벳 및 숫자 조합, 최소 14자 이상의 문자를 포함하는 강력한 비밀번호를 만드는 것이 중요합니다.
음성 복제로 실제 사람 흉내 내기
AI 음성 생성기는 멋진 장난감으로 시작되었습니다. 사용자들은 좋아하는 아티스트의 샘플 트랙을 커버곡이나 신곡으로 만들곤 했습니다. 하트 온 마이 슬리브를 예로 들어보겠습니다. TikTok 사용자 Ghostwriter977 는 두 아티스트가 부른 것은 아니지만 드레이크와 위켄드를 모방한 매우 사실적인 노래를 만들었습니다.
음성 합성은 유머와 밈의 소재임에도 불구하고 정교한 범죄 공격에 사용될 수 있기 때문에 상당한 위험성을 내포하고 있습니다. 한 가지 예로 연애 사기범이 음성 복제 도구를 사용하여 의심하지 않는 피해자를 속이는 그럴듯한 녹음을 만드는 것을 들 수 있습니다. 음성 합성 기능에 익숙하지 않은 사람들은 이러한 범죄를 인지하지 못할 수 있습니다.
눈에 띄는 불일치와 불균형이 있는 대략적인 복제품을 생성하는 합성 음성 제작자의 특성을 조사하여 AI 음성 복제 사기를 방지해야 합니다.
인공지능 데이트 사기꾼으로부터 자신을 보호하세요
고급 생성 인공지능 도구의 등장으로 특히 연애 관계와 관련된 온라인 사기가 증가하고 있습니다. 개발자가 이러한 범죄 행위를 예방할 수는 없으므로, 개인이 데이트 애플리케이션을 사용할 때 주의를 기울이고 연락을 시작하기 전에 가상 파트너의 신원을 확인하는 등 사이버 범죄에 적극적으로 대처하는 것이 필수적입니다.
연애 사기 외에도 인공지능을 활용한 사기 행위에는 신원 도용, 사이버 갈취, 협박, 랜섬웨어 공격, 무차별 암호 대입 해킹 등이 있습니다. 이러한 위협을 인식하고 이를 방어하는 방법을 배우는 것이 중요합니다.