Một cặp vợ chồng nhận được cuộc gọi của người tự xưng là luật sư và nói rằng: con trai họ hiện đang ngồi tù vì gây tai nạn xe hơi khiến một nhà ngoại giao thiệt mạng.
Con trai của cặp đôi, Benjamin Perkin, nói với tờ Washington Post rằng người gọi điện cho cha mẹ anh sau đó đã mở giọng nói do AI tạo ra, giống giọng nói của anh để xin tiền.
Người tự nhận luật sư sau đó tiếp tục gọi cho cha mẹ của Perkin, nói rằng anh cần 21.000 CAD tiền án phí trước khi ra tòa.
Perkin cho biết giọng nói do AI tạo ra giống giọng anh tới mức "cha mẹ thực sự tin họ nói chuyện với tôi".
Cha mẹ Perkin sau đó đã gom tiền và gửi cho kẻ lừa đảo bằng Bitcoin, tuy vậy cũng thừa nhận cuộc điện thoại có vẻ lạ lùng. Họ nhận ra bị lừa khi Perkin gọi điện cho họ tối cùng ngày.
Perkin cho biết gia đình anh đã báo cáo vụ việc với nhà chức trách Canada, nhưng chấp nhận rằng "số tiền đó đã biến mất... không có cách nào lấy lại được".
Theo Washington Post, Perkin không biết kẻ lừa đảo đã tìm thấy giọng của anh ở đâu, nhưng anh từng đăng video lái xe trượt tuyết trên YouTube.
Các công cụ AI ngày càng phổ biến trùng khớp với số vụ giả danh để lừa đảo gia tăng trong thời gian gần đây. Theo Ủy ban Thương mại Liên bang Mỹ (FTC), hình thức lừa đảo được báo cáo nhiều nhất trong năm 2022 là giả danh, với khoảng 2,4 triệu người báo cáo bị lừa. Số tiền họ bị lừa lên tới 8,8 tỷ USD.
Các vụ lừa đảo sử dụng công nghệ AI đã xuất hiện từ trước khi ChatGPT và các bot AI thu hút sự chú ý của dư luận. Năm 2019, giám đốc quản lý của một công ty năng lượng Anh được cho là đã chuyển hơn 240.000 USD cho một tài khoản ở Hungary, sau khi bị lừa rằng cấp trên của ông yêu cầu như vậy.
Tháng 01/2023, ElevenLabs, một phòng thí nghiệm nghiên cứu công nghệ sao chép giọng nói và công cụ tạo ra giọng nói tổng hợp đã đăng bài trên Twitter cảnh báo "các đối tượng sử dụng công nghệ của chúng tôi với mưu đồ xấu".
ElevenLabs sau đó cho biết họ sẽ phát hành công cụ cho phép người dùng xác định liệu một giọng nói có phải được tạo ra nhờ các công nghệ của họ hay không. Trang mạng Motherboard cho biết họ đã phát hiện một số trường hợp người dùng internet sử dụng công nghệ của ElevenLabs để tạo ra giọng nói giống người nổi tiếng nói các chủ đề phân biệt chủng tộc hoặc không phù hợp.
FTC cho biết đã thành lập Văn phòng Công nghệ để điều tra khả năng sử dụng công nghệ AI của các công ty, và đánh giá liệu các công ty có chủ động giảm thiểu nguy cơ mà sản phẩm của họ tạo ra hay không.