การหลอกลวงครอบครัว AI Voice Clone คืออะไร? วิธีการสังเกตมัน

ลิงค์ด่วน

⭐ การหลอกลวงด้วย AI Voice Cloning ทำงานอย่างไร

⭐ เหตุใดการหลอกลวงการโคลนเสียงของ AI จึงมีประสิทธิภาพมาก

⭐ สัญญาณสำคัญของการหลอกลวง AI Voice Clone

⭐ จะทำอย่างไรถ้าคุณสงสัยว่ามีการหลอกลวง AI Voice Clone

⭐ การป้องกันคือการป้องกันที่ดีที่สุดจากการหลอกลวงการโคลนนิ่งด้วยเสียงของ AI

ประเด็นที่สำคัญ

การใช้เทคโนโลยีปัญญาประดิษฐ์ขั้นสูง การฉ้อโกงการโคลนเสียงได้พัฒนาวิธีการสร้างรูปแบบคำพูดของมนุษย์อย่างซื่อสัตย์ด้วยความถูกต้องที่น่าทึ่ง ใช้ประโยชน์จากช่องโหว่ทางอารมณ์ และสร้างความรู้สึกเร่งด่วนให้กับเหยื่อ

เป็นที่รู้กันว่าศิลปินหลอกลวงใช้ข้อมูลที่ได้รับจากแพลตฟอร์มโซเชียลมีเดียต่างๆ เพื่อสร้างสถานการณ์ที่เป็นไปได้และใช้ประโยชน์จากความสัมพันธ์ที่มีอยู่ ดังนั้นจึงทำให้การหลอกลวงของพวกเขาน่าเชื่อถือยิ่งขึ้นต่อผู้ที่ตกเป็นเหยื่อ

ระวังแผนการแอบอ้างด้วยเสียงที่ AI สร้างขึ้น และใช้ความระมัดระวังเมื่อรับสายโทรศัพท์หรือข้อความไม่พึงประสงค์ที่อ้างว่ามาจากแหล่งที่เชื่อถือได้ ในกรณีที่คุณไม่แน่ใจเกี่ยวกับความถูกต้องตามกฎหมายของการสื่อสารดังกล่าว ขอแนะนำให้ยุติการโทรและยืนยันสถานการณ์ฉุกเฉินอย่างอิสระก่อนที่จะดำเนินการต่อไป

ข้อความเสียงด่วนจากตัวคุณเองจะส่งถึงพ่อแม่ของคุณในช่วงดึกของตอนเย็น ทำให้คุณรู้สึกเป็นทุกข์เมื่อคุณเล่าถึงสถานการณ์ที่โชคร้าย คุณเปิดเผยว่ากระเป๋าเงินของคุณถูกยักยอก ทำให้คุณติดอยู่ในตำแหน่งที่ไม่สะดวก และจำเป็นต้องได้รับความช่วยเหลือทางการเงินทันทีเพื่อการส่งกลับประเทศทันที

การแสดงเสียงของการสื่อสารดูเหมือนจะเหมือนจริงอย่างน่าทึ่งและสอดคล้องกับลักษณะเสียงร้องที่เป็นเอกลักษณ์ของลูกหลานอย่างชัดเจน แต่ก็ไม่ใช่ของแท้ แต่มันถือเป็นการจำลองที่สร้างขึ้นโดยปัญญาประดิษฐ์ และพวกมันได้กลายเป็นเป้าหมายของแผนการฉ้อโกงโดยไม่รู้ตัวซึ่งมีระดับประสิทธิภาพทั้งที่เป็นนวัตกรรมและอย่างน่าสับสนอย่างเข้มข้น

AI Voice Cloning Scam ทำงานอย่างไร

การโคลนเสียงสามารถสร้างเสียงจำลองดิจิทัลที่สมจริงอย่างไม่น่าเชื่อ เทคนิคนี้ ซึ่งเรียกกันทั่วไปว่าเสียง deepfake สร้างขึ้นด้วยเครื่องมือโคลนเสียง AI เช่น ElevenLabs (ตรวจสอบเสียง AI ตัวอย่างโคลนด้านล่าง) เมื่อรวมกับ generative AI และการสังเคราะห์เสียง เสียงที่โคลนสามารถจำลองอารมณ์ ความแตกต่าง น้ำเสียง และแม้แต่ความกลัวได้

เพื่อเป็นข้อมูลอ้างอิง เราอาจหมายถึงลักษณะที่ Christian Cawley แสดงออกระหว่างการปรากฏตัวของเขาใน The Really Useful Podcast

ในการสร้างแบบจำลองเสียงปัญญาประดิษฐ์ โดยทั่วไปจำเป็นต้องใช้ข้อมูลเสียงจำนวนเล็กน้อย ซึ่งมักจะไม่เกินหกสิบวินาที ตัวอย่างดังกล่าวสามารถหาได้บ่อยครั้งโดยการดึงออกมาจากเนื้อหาออนไลน์ที่เข้าถึงได้สาธารณะ เช่น วิดีโอโซเชียลมีเดีย ซึ่งอาจทำให้บุคคลบางคน รวมถึงบล็อกเกอร์วิดีโอและผู้มีอิทธิพล มีความเสี่ยงมากขึ้นเนื่องจากการบันทึกเสียงของพวกเขาแสดงคุณภาพเสียงที่เหนือกว่าและหาได้ง่าย.

เมื่อผู้ฉ้อโกงได้รับตัวอย่างเสียงด้วยวิธีที่ผิดกฎหมาย พวกเขาจะใช้เทคโนโลยีการแปลงข้อความเป็นคำพูดหรือการแปลงคำพูดเป็นข้อความแบบเรียลไทม์เพื่อสร้างสายโทรศัพท์และการสื่อสารด้วยเสียงที่หลอกลวง

ด้วยการใช้กลยุทธ์วิศวกรรมสังคมผสมผสาน นักต้มตุ๋นจึงสามารถสร้างเรื่องราวที่น่าเชื่อถือโดยอิงจากข้อมูลที่รวบรวมจากการปรากฏตัวทางออนไลน์ของเหยื่อ พวกเขาอาจสร้างเรื่องราวที่เกี่ยวข้องกับสถานการณ์ฉุกเฉิน เช่น การเข้ารับการรักษาในโรงพยาบาลหรือการจับกุม หรือแม้แต่สถานการณ์ที่รุนแรงกว่านั้น เช่น การโจรกรรมหรือการลักพาตัว ด้วยการใช้เทคโนโลยีการแปลงคำพูดเป็นข้อความขั้นสูง พวกเขาสามารถสวมรอยเป็นผู้มีอำนาจที่เชื่อถือได้ และจัดการญาติที่เกี่ยวข้องให้แยกทางกับข้อมูลทางการเงินที่ละเอียดอ่อนภายใต้หน้ากากของการช่วยเหลือผู้เป็นที่รักซึ่งคาดว่าจะประสบความทุกข์

ความถูกต้องอันลึกซึ้งของน้ำเสียงและความรู้สึก ควบคู่ไปกับความฉับพลันและธรรมชาติของคำร้อง มีศักยภาพที่จะบดบังความสงสัย ส่งผลให้เกิดทางเลือกหุนหันพลันแล่นในการเปิดเผยทรัพยากรทางการเงินหรือเปิดเผยข้อมูลที่เป็นความลับ

เหตุใดการหลอกลวงการโคลนเสียงของ AI จึงมีประสิทธิภาพมาก

การหลอกลวงด้วยการโคลนเสียงของ AI ใช้ประโยชน์จากความแข็งแกร่งของความสัมพันธ์ส่วนตัวโดยการล่าเหยื่อผ่านการเชื่อมต่อทางอารมณ์กับผู้อื่น เทคนิคนี้ใช้ประโยชน์จากความอ่อนแอที่เกิดขึ้นเมื่อบุคคลได้รับโทรศัพท์แจ้งความทุกข์โดยอ้างว่ามาจากคนที่รัก ทำให้พวกเขาแสดงท่าทางหุนหันพลันแล่นเนื่องจากอารมณ์ที่เพิ่มมากขึ้น โดยพื้นฐานแล้ว กลยุทธ์นี้สะท้อนถึงกลยุทธ์ที่ใช้ในการหลอกลวง “quid pro”; อย่างไรก็ตาม ผลกระทบของมันจะถูกขยายออกไปอย่างมีนัยสำคัญโดยอาศัยความคุ้นเคยของข้อความเสียง ซึ่งทำให้ผู้รับรู้สึกเร่งด่วนและสับสนมากขึ้นไปอีก

ผู้ที่บุคคลอันเป็นที่รักปรากฏตัวในโลกออนไลน์อย่างกว้างขวางหรือเดินทางบ่อยครั้งอาจเสี่ยงต่อการถูกหลอกลวงดังกล่าวเป็นพิเศษเนื่องจากความน่าเชื่อถือของเรื่องราวที่ฉ้อโกงโดยสถานการณ์เหล่านี้ โดยทั่วไปแล้ว ศิลปินนักต้มตุ๋นจะรวบรวมและใช้ประโยชน์จากข้อมูลส่วนบุคคลที่รวบรวมมาจากโปรไฟล์โซเชียลมีเดียที่เข้าถึงได้แบบสาธารณะของเป้าหมายล่วงหน้า ซึ่งจะทำให้การหลอกลวงของพวกเขาโน้มน้าวใจได้มากขึ้น

สัญญาณสำคัญของการหลอกลวง AI Voice Clone

แม้ว่าเทคโนโลยีโคลนเสียงที่ใช้ AI จะมีลักษณะขั้นสูง แต่ก็ยังสามารถระบุกิจกรรมที่อาจเกิดการฉ้อโกงได้โดยการจดจำสัญญาณเตือนบางอย่างหรือ “ธงสีแดง” สิ่งเหล่านี้อาจรวมถึงความไม่สอดคล้องกันในการใช้ภาษา ข้อผิดพลาดทางไวยากรณ์ และการขาดความสอดคล้องกันในการสื่อสารโดยรวม ในบางกรณี การใช้ข้อมูลส่วนบุคคล เช่น ชื่อ ที่อยู่ และรายละเอียดการระบุตัวตนอื่น ๆ ก็อาจทำให้เกิดความสงสัยได้เช่นกัน ด้วยการระมัดระวังและตระหนักถึงตัวบ่งชี้ทั่วไปของการหลอกลวงเหล่านี้ แต่ละบุคคลสามารถป้องกันตนเองจากการตกเป็นเหยื่อของการหลอกลวงโคลนเสียง AI ได้ดีขึ้น

ความเร่งด่วนที่เกิดจากการหลอกลวงอาจสร้างความรู้สึกฉับไวและแจ้งให้ผู้รับดำเนินการโดยไม่พิจารณาสถานการณ์อย่างเหมาะสม เนื่องจากพวกเขาเชื่อว่าจะเกิดผลร้ายแรงตามมาหากพวกเขาไม่ปฏิบัติตามคำขอที่ฉ้อโกง

สิ่งสำคัญคือต้องระมัดระวังต่อการหลอกลวง เนื่องจากผู้กระทำผิดอาจไม่มีความรู้ครบถ้วนเกี่ยวกับสถานการณ์หรือประวัติส่วนตัวของตนกับบุคคลหรือนิติบุคคลใดบุคคลหนึ่ง ด้วยเหตุนี้ จึงจำเป็นอย่างยิ่งที่จะต้องตระหนักถึงความคลาดเคลื่อนในข้อมูลที่นำเสนอโดยบุคคลหรือองค์กรที่อาจบ่งบอกถึงเจตนาฉ้อโกง

คำขอโอนเงินระหว่างประเทศหรือชำระเงินเพื่อปิดบังกระเป๋าเงินดิจิทัลไม่ใช่เรื่องแปลกในสถานการณ์เช่นนี้

เมื่อพิจารณาถึงความท้าทายที่เกี่ยวข้องกับการนำทางในสถานการณ์ที่โชคร้ายเช่นนี้ มันอาจจะพิสูจน์ได้ว่าเป็นงานที่น่าเกรงขาม อย่างไรก็ตาม เมื่อพิจารณาถึงสิ่งเหล่านี้แล้ว เราอาจหลีกเลี่ยงการตกเป็นเหยื่อของแผนการฉ้อโกงได้

จะทำอย่างไรถ้าคุณสงสัยว่า AI Voice Clone Scam

เมื่อได้รับการสื่อสารจากบุคคลอันเป็นที่รักที่กำลังประสบกับความสับสนอลหม่าน จำเป็นอย่างยิ่งที่จะต้องรักษาความสงบ ศิลปินนักต้มตุ๋นมักจะใช้ประโยชน์จากอารมณ์ที่เพิ่มขึ้น เช่น ความวิตกกังวลและความรู้สึกนึกคิดเพื่อผลประโยชน์ส่วนตัว ซึ่งจะช่วยเพิ่มความอ่อนไหวต่อไหวพริบอันชาญฉลาด

หากคุณรับสายโทรศัพท์

หากมีข้อสงสัยเพียงเล็กน้อยเกี่ยวกับความถูกต้องตามกฎหมายของสายเรียกเข้า จำเป็นต้องยุติการเชื่อมต่อโดยไม่ลังเล งดเว้นการเปิดเผยรายละเอียดส่วนบุคคลหรือสนทนากับผู้ต้องสงสัยฉ้อโกง หากต้องการตรวจสอบความจริงของสถานการณ์ฉุกเฉิน ควรติดต่อผู้รับผ่านวิธีการสื่อสารที่เชื่อถือได้

นอกจากนี้ สิ่งสำคัญที่ควรทราบก็คือ การสื่อสารกับบุคคลเหล่านี้อย่างต่อเนื่องอาจส่งผลให้มีการจับภาพลายเซ็นเสียงของคนๆ หนึ่ง ซึ่งอาจนำไปสู่การทำซ้ำโดยไม่ได้รับอนุญาตหรือนำไปใช้เพื่อวัตถุประสงค์ที่เป็นอันตราย

หากคุณได้รับข้อความเสียง

ขอแนะนำอย่างยิ่งให้คุณเก็บข้อความเสียงที่ได้รับจากผู้ที่อาจหลอกลวงโดยบันทึกไว้ในอุปกรณ์เคลื่อนที่หรือคอมพิวเตอร์ของคุณ การใช้เทคโนโลยีปัญญาประดิษฐ์ขั้นสูงที่เรียกว่าเครื่องมือจำแนกคำพูด การบันทึกเหล่านี้อาจได้รับการวิเคราะห์เพื่อแยกแยะว่าเสียงเหล่านั้นมาจากเสียงมนุษย์จริงหรือเสียงสังเคราะห์ที่สร้างขึ้นผ่านระบบอัตโนมัติ การวิเคราะห์ดังกล่าวทำงานคล้ายกับระบบตรวจจับการลอกเลียนแบบข้อความ โดยที่ไฟล์เสียงจะถูกป้อนลงในอัลกอริทึมเพื่อวัตถุประสงค์ในการระบุตัวตน

การประเมินความถูกต้องของตัวอย่างเสียงสามารถทำได้หลายวิธี หนึ่งในเครื่องมือที่มีประสิทธิภาพดังกล่าวคือ Speech Classifier ที่ ElevenLabs มอบให้ ในฐานะผู้ให้บริการชั้นนำด้านการจำลองแบบปัญญาประดิษฐ์ ElevenLabs เสนอวิธีการที่เชื่อถือได้ในการแยกแยะว่าตัวอย่างเสียงผ่านการทำซ้ำแบบดิจิทัลหรือไม่ หากต้องการใช้เครื่องมือนี้ในการระบุการแอบอ้างบุคคลอื่นที่สร้างโดย AI ให้ทำตามขั้นตอนเหล่านี้:

⭐ ไปที่ ElevenLabs Speech Classifier

โปรดส่งไฟล์เสียงที่มีข้อความเสียงมาให้ฉัน จากนั้นเลือกตัวเลือกเพื่อ “ระบุเสียงประดิษฐ์” หลังจากอัปโหลดโดยคลิกที่ปุ่มที่มีข้อความ “อัปโหลดตัวอย่าง”

ในกรณีที่จัดให้ บุคคลหนึ่งถ่ายทอดการสื่อสารที่น่าวิตก ซึ่งต่อมาถูกจับและส่งไปยังระบบการจำแนกประเภทเพื่อทำการวิเคราะห์ เห็นได้ชัดว่าเนื้อหาได้รับการกำหนดโอกาสเล็กน้อยที่ 2% ซึ่งสอดคล้องกับความเป็นไปได้ที่จะถูกบิดเบือน

ในกรณีนี้ การสื่อสารที่น่าอึดอัดใจเกิดขึ้นจากการใช้อุปกรณ์เลียนแบบเสียงของปัญญาประดิษฐ์ แม้ว่าเสียงอาจดูเหมือนเหมือนกันในการรับรู้ทางเสียง แต่เทคโนโลยีดังกล่าวมีความเป็นไปได้สูงอย่างน่าทึ่งที่ 98 เปอร์เซ็นต์ที่การสื่อสารจะมีต้นกำเนิดจากแหล่งกำเนิดเทียม

แม้ว่าระบบการจำแนกประเภทนี้อาจไม่ให้ความแน่นอนแน่ชัด แต่ก็สามารถให้ข้อบ่งชี้ที่บ่งบอกถึงการมีอยู่ของรูปแบบเสียงร้องที่ซ้ำกัน ขอแนะนำอย่างยิ่งให้ติดต่อคนรู้จักของคุณผ่านช่องทางการสื่อสารที่จัดตั้งขึ้นเพื่อตรวจสอบความถูกต้องของการค้นพบเหล่านี้

การป้องกันเป็นการป้องกันที่ดีที่สุดต่อการหลอกลวงการโคลนเสียงของ AI

ในบางครั้ง วิธีที่มีประสิทธิภาพในการต่อสู้กับแผนการฉ้อโกงขั้นสูงอาจเกี่ยวข้องกับการใช้วิธีการที่ค่อนข้างง่าย

พิจารณาใช้รหัสผ่านส่วนตัวที่แชร์เฉพาะกับคนใกล้ชิด เช่น สมาชิกในครอบครัวและเพื่อนฝูง รหัสที่รอบคอบนี้อาจทำหน้าที่เป็นการตรวจสอบที่เถียงไม่ได้เมื่อต้องเผชิญกับคำถามเร่งด่วนจากแหล่งที่เชื่อถือได้

ท้ายที่สุดแล้ว การรักษาความลับของข้อมูลส่วนบุคคลบนแพลตฟอร์มโซเชียลเน็ตเวิร์กถือเป็นมาตรการสำคัญในการป้องกันกิจกรรมฉ้อโกงที่อาจใช้ประโยชน์จากข้อมูลดังกล่าวเพื่อสร้างบัญชีสมมติ ขอแนะนำให้ใช้ดุลยพินิจในการแบ่งปันรายละเอียดที่ละเอียดอ่อนทางออนไลน์โดยยึดหลักการที่ว่าสิ่งที่มีไว้สำหรับผู้ชมที่จำกัดไม่ควรเปิดเผยต่อมุมมองของสาธารณะในวงกว้าง