Lừa đảo gia đình nhân bản giọng nói AI là gì? Làm thế nào để phát hiện nó

Đường dẫn nhanh

⭐Lừa đảo nhân bản giọng nói AI hoạt động như thế nào?

⭐Tại sao lừa đảo nhân bản giọng nói AI lại hiệu quả đến vậy

⭐Các dấu hiệu chính của một vụ lừa đảo sao chép giọng nói AI

⭐Phải làm gì nếu bạn nghi ngờ một vụ lừa đảo sao chép giọng nói AI

⭐Phòng ngừa là biện pháp phòng ngừa tốt nhất chống lại lừa đảo nhân bản giọng nói AI

Bài học chính

Bằng cách sử dụng công nghệ trí tuệ nhân tạo tiên tiến, các vụ lừa đảo nhân bản giọng nói đã phát triển một phương pháp tái tạo trung thực các mẫu giọng nói của con người với độ chân thực vượt trội, khai thác những tổn thương về mặt cảm xúc và tạo ra cảm giác cấp bách ở nạn nhân.

Những kẻ lừa đảo được biết đến là người sử dụng thông tin thu được từ nhiều nền tảng truyền thông xã hội khác nhau để tạo ra các tình huống hợp lý và lợi dụng các mối quan hệ hiện có, từ đó khiến các vụ lừa đảo của chúng trở nên thuyết phục hơn đối với các nạn nhân tiềm năng.

Cảnh giác với các âm mưu mạo danh giọng nói tiềm ẩn do AI tạo ra và thận trọng khi nhận các cuộc gọi điện thoại hoặc tin nhắn văn bản không mong muốn được cho là từ một nguồn đáng tin cậy. Trong trường hợp bạn không chắc chắn về tính hợp pháp của những thông tin liên lạc đó, bạn nên chấm dứt cuộc gọi và xác nhận độc lập mọi tình huống khẩn cấp được cho là trước khi thực hiện thêm hành động.

Một thư thoại khẩn cấp từ chính bạn gửi đến bố mẹ bạn vào lúc cuối buổi tối, gây ra cảm giác đau khổ khi bạn truyền đạt một tình huống không may. Bạn tiết lộ rằng ví của bạn đã bị chiếm dụng, khiến bạn bị mắc kẹt ở một vị trí bất tiện, cần hỗ trợ tài chính kịp thời để bạn hồi hương ngay lập tức.

Việc thể hiện âm thanh của cuộc giao tiếp dường như rất sống động và tương ứng một cách rõ ràng với các đặc điểm giọng nói độc đáo của con cái họ-tuy nhiên, nó không phải là sự thật. Đúng hơn, nó tạo thành một bản sao do trí tuệ nhân tạo tạo ra và chúng đã vô tình trở thành mục tiêu của một kế hoạch lừa đảo tự hào về mức độ hiệu quả vừa mang tính đổi mới vừa cực kỳ đáng lo ngại.

Lừa đảo nhân bản giọng nói AI hoạt động như thế nào?

Nhân bản giọng nói có thể tạo ra các bản sao kỹ thuật số vô cùng chân thực về giọng nói của một người. Kỹ thuật này, thường được gọi là âm thanh deepfake, được tạo bằng các công cụ sao chép giọng nói AI như ElevenLabs (hãy xem giọng nói AI ví dụ nhân bản dưới đây). Kết hợp với AI tổng hợp và tổng hợp giọng nói, giọng nói nhân bản có thể tái tạo cảm xúc, sắc thái, ngữ điệu và thậm chí cả nỗi sợ hãi.

Để tham khảo, người ta có thể đề cập đến cách Christian Cawley thể hiện bản thân khi xuất hiện trên Podcast Thực sự Hữu ích.

Để tạo ra bản sao trí tuệ nhân tạo của giọng nói, nó thường cần một lượng dữ liệu âm thanh tương đối nhỏ-thường có thời lượng không quá 60 giây. Các mẫu như vậy thường có thể lấy được bằng cách trích xuất chúng từ nội dung trực tuyến có thể truy cập công khai, chẳng hạn như video trên mạng xã hội, điều này có thể khiến một số cá nhân, bao gồm cả người viết blog video và người có ảnh hưởng, dễ bị ảnh hưởng hơn do thực tế là bản ghi âm giọng hát của họ thể hiện chất lượng âm thanh vượt trội và có thể dễ dàng lấy được..

Sau khi những kẻ lừa đảo lấy được mẫu giọng nói thông qua các phương tiện bất hợp pháp, chúng sẽ sử dụng công nghệ chuyển văn bản thành giọng nói hoặc chuyển đổi giọng nói thành văn bản theo thời gian thực để tạo ra các cuộc gọi điện thoại và liên lạc bằng giọng nói lừa đảo.

Bằng cách sử dụng kết hợp các chiến thuật lừa đảo xã hội, những kẻ lừa đảo có thể tạo ra một câu chuyện thuyết phục dựa trên thông tin thu thập được từ sự hiện diện trực tuyến của nạn nhân. Họ có thể xây dựng một câu chuyện liên quan đến một tình huống khẩn cấp như nhập viện hoặc bị bắt giữ, hoặc thậm chí những tình huống cực đoan hơn như trộm cắp hoặc bắt cóc. Bằng cách sử dụng công nghệ chuyển giọng nói thành văn bản tiên tiến, sau đó họ có thể đóng vai một nhân vật có thẩm quyền đáng tin cậy và lôi kéo một người thân có liên quan chia sẻ thông tin tài chính nhạy cảm dưới chiêu bài giúp đỡ người thân được cho là đang đau khổ của họ.

Tính xác thực sâu sắc của giọng điệu và cảm xúc, cùng với tính chất đột ngột và cấp bách của lời biện hộ, có khả năng làm lu mờ chủ nghĩa hoài nghi, dẫn đến những lựa chọn bốc đồng trong việc tiết lộ nguồn tài chính hoặc tiết lộ dữ liệu bí mật.

Tại sao lừa đảo nhân bản giọng nói AI lại hiệu quả đến vậy

Lừa đảo nhân bản giọng nói AI lợi dụng sức mạnh của các mối quan hệ cá nhân bằng cách săn lùng các cá nhân thông qua mối liên hệ cảm xúc của họ với người khác. Kỹ thuật này lợi dụng lỗ hổng phát sinh khi một cá nhân nhận được cuộc gọi đau khổ có chủ đích từ người thân yêu, khiến họ hành động bốc đồng do cảm xúc dâng cao. Về bản chất, chiến lược này phản ánh những người được sử dụng trong các vụ lừa đảo “quid pro”; tuy nhiên, tác động của nó được khuếch đại đáng kể nhờ tính quen thuộc của thông điệp được lồng tiếng, điều này càng làm trầm trọng thêm cảm giác cấp bách và bối rối của người nhận.

Những người có người thân thường xuyên hiện diện trực tuyến hoặc thường xuyên đi du lịch có thể đặc biệt dễ bị lừa đảo như vậy do độ tin cậy của những trường hợp này đối với câu chuyện lừa đảo. Những kẻ lừa đảo thường thu thập và khai thác trước thông tin cá nhân thu thập được từ hồ sơ mạng xã hội có thể truy cập công khai của mục tiêu, do đó khiến hành vi lừa dối của chúng trở nên thuyết phục hơn.

Dấu hiệu chính của một vụ lừa đảo sao chép giọng nói AI

Bất chấp tính chất tiên tiến của công nghệ nhân bản giọng nói dựa trên AI, vẫn có thể xác định được hoạt động lừa đảo tiềm ẩn bằng cách nhận ra một số dấu hiệu cảnh báo hoặc “cờ đỏ”. Những điều này có thể bao gồm sự không nhất quán trong việc sử dụng ngôn ngữ, lỗi ngữ pháp và sự thiếu mạch lạc tổng thể trong giao tiếp. Trong một số trường hợp, việc sử dụng thông tin cá nhân như tên, địa chỉ và các chi tiết nhận dạng khác cũng có thể gây nghi ngờ. Bằng cách luôn cảnh giác và nhận thức được những dấu hiệu lừa dối phổ biến này, các cá nhân có thể tự bảo vệ mình tốt hơn khỏi trở thành nạn nhân của các trò lừa đảo giả mạo giọng nói AI.

Tính khẩn cấp mà trò lừa đảo ám chỉ có thể tạo ra cảm giác tức thời và khiến người nhận hành động mà không xem xét đúng tình huống, vì họ tin rằng hậu quả nghiêm trọng sẽ xảy ra nếu họ không tuân thủ yêu cầu gian lận.

Điều quan trọng là phải luôn cảnh giác trước các hành vi lừa đảo vì thủ phạm có thể không có kiến ​​thức đầy đủ về hoàn cảnh cá nhân hoặc lịch sử của một cá nhân hoặc tổ chức cụ thể. Vì vậy, điều cần thiết là phải nhận thức được bất kỳ sự khác biệt nào trong thông tin được cung cấp bởi các cá nhân hoặc tổ chức có khả năng chỉ ra ý định lừa đảo.

Yêu cầu chuyển tiền quốc tế hoặc thanh toán được thực hiện tới các ví kỹ thuật số ít người biết đến không phải là hiếm trong những trường hợp như vậy.

Với những thách thức liên quan đến việc giải quyết tình huống không may như vậy, đây có thể là một nhiệm vụ khó khăn. Tuy nhiên, bằng cách tính đến những cân nhắc này, người ta có thể tránh trở thành nạn nhân của các âm mưu lừa đảo.

Phải làm gì nếu bạn nghi ngờ một vụ lừa đảo sao chép giọng nói AI

Khi nhận được thông tin liên lạc từ những người thân yêu đang gặp bất ổn, điều cần thiết là phải giữ bình tĩnh. Những kẻ lừa đảo thường khai thác những cảm xúc dâng cao như lo lắng và đa cảm để trục lợi cá nhân, do đó làm tăng tính nhạy cảm của một người trước những thủ đoạn xảo quyệt của chúng.

Nếu bạn nhận được một cuộc gọi điện thoại

Nếu có chút nghi ngờ nào về tính hợp pháp của một cuộc điện thoại đến, bạn phải ngắt kết nối ngay lập tức. Không tiết lộ bất kỳ thông tin cá nhân nào hoặc tham gia vào cuộc trò chuyện với những kẻ bị nghi ngờ là lừa đảo. Để xác minh tính xác thực của tình huống khẩn cấp được cho là, hãy liên hệ với người nhận dự định thông qua một phương tiện liên lạc đáng tin cậy.

Ngoài ra, điều quan trọng cần lưu ý là việc tiếp tục liên lạc với những cá nhân này có thể dẫn đến việc thu thập chữ ký giọng nói của một người, điều này có thể dẫn đến việc sao chép hoặc sử dụng trái phép cho mục đích xấu.

Nếu bạn nhận được tin nhắn thoại

Chúng tôi khuyên bạn nên lưu giữ mọi tin nhắn thư thoại nhận được từ những kẻ lừa đảo tiềm năng bằng cách lưu chúng trên thiết bị di động hoặc máy tính của bạn. Bằng cách sử dụng công nghệ trí tuệ nhân tạo tiên tiến được gọi là công cụ phân loại giọng nói, những bản ghi âm này sau đó có thể được phân tích để phân biệt xem chúng bắt nguồn từ giọng nói thật của con người hay giọng nói tổng hợp được tạo ra thông qua tự động hóa. Phân tích như vậy hoạt động tương tự như các hệ thống phát hiện đạo văn dựa trên văn bản, theo đó tệp âm thanh được nhập vào thuật toán cho mục đích nhận dạng.

Việc đánh giá tính xác thực của các mẫu giọng nói có thể được thực hiện thông qua nhiều phương pháp khác nhau, một trong những công cụ hiệu quả đó là Bộ phân loại giọng nói do ElevenLabs cung cấp. Là nhà cung cấp dịch vụ sao chép trí tuệ nhân tạo hàng đầu, ElevenLabs cung cấp một phương tiện đáng tin cậy để nhận biết liệu mẫu giọng nói có bị sao chép kỹ thuật số hay không. Để sử dụng công cụ này trong việc xác định hành vi mạo danh do AI tạo ra, hãy làm theo các bước sau:

⭐ Đi tới Trình phân loại giọng nói ElevenLabs.

Vui lòng cung cấp cho tôi tệp âm thanh chứa tin nhắn thoại, sau đó chọn tùy chọn “Xác định giọng nói nhân tạo” sau khi tải lên bằng cách nhấp vào nút có nhãn “Tải mẫu lên.

Trong trường hợp được cung cấp, một cá nhân đã truyền tải một thông tin liên lạc gây đau buồn, thông tin này sau đó đã được ghi lại và gửi đến hệ thống phân loại để phân tích. Rõ ràng, nội dung đã được ấn định khả năng xảy ra ở mức khiêm tốn là 2%, tương ứng với khả năng bị thao túng.

Trong trường hợp này, một giao tiếp đáng lo ngại đã được tạo ra thông qua việc sử dụng thiết bị bắt chước giọng nói trí tuệ nhân tạo. Mặc dù các giọng nói có thể giống hệt nhau khi nhận biết bằng thính giác, nhưng công nghệ này đã cho thấy khả năng giao tiếp bắt nguồn từ một nguồn nhân tạo là rất cao tới 98%.

Mặc dù hệ thống phân loại này có thể không mang lại sự chắc chắn tuyệt đối nhưng nó có thể đưa ra những dấu hiệu cho thấy sự hiện diện của một mẫu giọng nói trùng lặp. Bạn nên liên hệ với người quen của mình thông qua một kênh liên lạc đã được thiết lập để xác thực những phát hiện này.

Phòng ngừa là cách phòng ngừa tốt nhất chống lại các trò lừa đảo nhân bản giọng nói AI

Đôi khi, một phương tiện hiệu quả để chống lại các âm mưu gian lận tiên tiến có thể liên quan đến việc sử dụng các phương pháp tương đối đơn giản.

Hãy cân nhắc triển khai mật mã được cá nhân hóa, được chia sẻ riêng giữa những người quen thân như thành viên gia đình và bạn bè. Mã kín đáo này có thể đóng vai trò xác minh không thể chối cãi khi gặp phải các yêu cầu khẩn cấp từ các nguồn đáng tin cậy.

Cuối cùng, việc duy trì tính bảo mật của dữ liệu cá nhân trên nền tảng mạng xã hội là một biện pháp quan trọng nhằm bảo vệ chống lại các hoạt động lừa đảo có thể khai thác thông tin đó để tạo tài khoản hư cấu. Bạn nên thận trọng khi chia sẻ các chi tiết nhạy cảm trực tuyến bằng cách tuân thủ nguyên tắc rằng những gì dành cho đối tượng hạn chế sẽ không được đưa ra trước quan điểm rộng rãi hơn của công chúng.