Cô ấy lần đầu tiên nhìn thấy quảng cáo trên Facebook. Và sau đó là trên TikTok. Sau khi thấy Elon Musk liên tục đưa ra cơ hội đầu tư, Heidi Swan cho rằng điều đó hẳn là sự thật.
“Trông giống hệt Elon Musk, giọng nói giống hệt Elon Musk và tôi nghĩ đó là ông ấy”, Swan nói.
Cô đã liên hệ với công ty đứng sau quảng cáo và mở một tài khoản trị giá hơn 10.000 đô la. Nhân viên y tế 62 tuổi này nghĩ rằng cô đang đầu tư thông minh vào tiền điện tử từ một doanh nhân và nhà đầu tư trị giá hàng tỷ đô la.
Nhưng Swan sẽ sớm biết rằng cô đã bị lừa bởi một làn sóng trộm công nghệ cao mới sử dụng trí tuệ nhân tạo để tạo ra deepfake.
Ngay cả khi xem lại các video bây giờ, biết rằng chúng là giả, Swan vẫn nghĩ rằng chúng trông có vẻ thuyết phục.
“Chúng vẫn trông giống Elon Musk”, cô nói. “Chúng vẫn nghe giống Elon Musk”.
Lừa đảo deepfake đang gia tăng ở Hoa Kỳ
Khi công nghệ trí tuệ nhân tạo phát triển và dễ tiếp cận hơn, những trò lừa đảo kiểu này đang trở nên phổ biến hơn.
Theo Deloitte, một nhóm nghiên cứu tài chính hàng đầu, nội dung do AI tạo ra đã góp phần gây ra hơn 12 tỷ đô la tiền gian lận vào năm ngoái và có thể đạt 40 tỷ đô la tại Hoa Kỳ vào năm 2027.
Cả Ủy ban Thương mại Liên bang và Văn phòng Kinh doanh Tốt hơn đều đã đưa ra cảnh báo rằng các vụ lừa đảo deepfake đang gia tăng.
Một nghiên cứu của công ty AI Sensity phát hiện ra rằng Elon Musk là người nổi tiếng được sử dụng phổ biến nhất trong các vụ lừa đảo deepfake. Một lý do có thể là sự giàu có và tinh thần kinh doanh của ông. Một lý do khác là vì số lượng cuộc phỏng vấn mà ông đã thực hiện; càng có nhiều nội dung về một người nào đó trực tuyến, thì việc tạo ra các deepfake thuyết phục càng dễ dàng.
Giải phẫu của deepfake
Tại Đại học North Texas ở Denton, Giáo sư Christopher Meerdo cũng đang sử dụng trí tuệ nhân tạo. Nhưng ông sử dụng nó để sáng tạo nghệ thuật.
“Nó sẽ không thay thế nghệ thuật sáng tạo”, Meerdo cho biết. “Nó sẽ chỉ tăng cường chúng và thay đổi cách chúng ta hiểu những điều chúng ta có thể làm trong lĩnh vực sáng tạo”.
Mặc dù Meerdo coi trí tuệ nhân tạo là một cách để đổi mới, nhưng ông thấy những nguy hiểm của nó.
Meerdo đã chỉ cho CBS News Texas I-Team cách những kẻ lừa đảo có thể quay video thật và sử dụng các công cụ AI để thay thế giọng nói và chuyển động miệng của một người, khiến họ có vẻ như đang nói điều gì đó hoàn toàn khác.
Những tiến bộ trong công nghệ đang giúp việc tạo video deepfake trở nên dễ dàng hơn. Tất cả những gì một người quen thuộc với AI cần làm là tạo một video chỉ bằng một hình ảnh tĩnh và một bản ghi video.
Để chứng minh điều này, Meerdo đã quay một video về phóng viên điều tra Brian New để tạo ra một video deepfake của Elon Musk.
Những video do AI tạo ra này khó có thể hoàn hảo, nhưng chúng chỉ cần đủ sức thuyết phục để đánh lừa nạn nhân không nghi ngờ.
“Nếu bạn thực sự muốn lừa đảo mọi người, tôi nghĩ bạn có thể làm một số điều thực sự tồi tệ với điều này”, Meerdo nói.
Làm thế nào để phát hiện ra deepfake?
Một số deepfake dễ phát hiện hơn những deepfake khác; có thể có những dấu hiệu như chuyển động môi không tự nhiên hoặc ngôn ngữ cơ thể kỳ lạ. Nhưng khi công nghệ được cải thiện, sẽ khó phát hiện hơn chỉ bằng cách nhìn.
Ngày càng có nhiều trang web tuyên bố rằng họ có thể phát hiện ra deepfake. Sử dụng ba video deepfake đã biết và ba video xác thực, CBS News Texas I-Team đã đưa năm trong số các trang web này vào một thử nghiệm phi khoa học: Deepware, Attestiv, DeepFake-O-Meter, Sensity và Deepfake Detector.
Tổng cộng, năm công cụ trực tuyến này đã xác định chính xác các video đã thử nghiệm gần 75% thời gian. I-Team đã liên hệ với các công ty có kết quả; phản hồi của họ như sau.
Deepware
Deepware, một trang web miễn phí sử dụng, ban đầu đã không đánh dấu hai video giả mạo mà I-Team đã thử nghiệm. Trong một email, công ty cho biết các clip được sử dụng quá ngắn và để có kết quả tốt nhất, các video được tải lên phải có độ dài từ 30 giây đến một phút. Deepware đã xác định chính xác tất cả các video dài hơn. Theo công ty, tỷ lệ phát hiện của họ được coi là tốt cho ngành ở mức 70%.
Phần câu hỏi thường gặp trên trang web của Deepware nêu rõ: “Deepfake vẫn chưa phải là vấn đề được giải quyết. Kết quả của chúng tôi chỉ ra khả năng một video cụ thể có phải là deepfake hay không”.
Deepfake Detector
Deepfake Detector, một công cụ tính phí 16,80 đô la một tháng, đã xác định một trong những video giả là “giọng nói tự nhiên 97%”. Công ty chuyên phát hiện giọng nói do AI tạo ra này cho biết trong một email rằng các yếu tố như tiếng ồn nền hoặc nhạc có thể ảnh hưởng đến kết quả, nhưng tỷ lệ chính xác của công cụ này là khoảng 92%.
Trả lời câu hỏi về hướng dẫn dành cho người tiêu dùng trung bình, công ty đã viết: “Công cụ của chúng tôi được thiết kế để thân thiện với người dùng. Người tiêu dùng trung bình có thể dễ dàng tải tệp âm thanh lên trang web của chúng tôi hoặc sử dụng tiện ích mở rộng trình duyệt của chúng tôi để phân tích nội dung trực tiếp. Công cụ này sẽ cung cấp phân tích để giúp xác định xem video có chứa các thành phần deepfake hay không bằng cách sử dụng xác suất, giúp người dùng có thể truy cập ngay cả khi không quen với công nghệ AI”.
Attestiv
Attestiv đã đánh dấu hai video thật là “đáng ngờ”. Theo giám đốc điều hành Nicos Vekiarides của công ty, các kết quả dương tính giả có thể được kích hoạt bởi các yếu tố như đồ họa và chỉnh sửa. Cả hai video xác thực được đánh dấu là “đáng ngờ” đều bao gồm đồ họa và chỉnh sửa. Trang web cung cấp dịch vụ miễn phí, nhưng cũng có một gói trả phí, nơi người tiêu dùng có thể điều chỉnh cài đặt và hiệu chuẩn để phân tích chuyên sâu hơn.
Mặc dù thừa nhận rằng Attestiv không hoàn hảo, Vekiarides cho biết khi deepfake trở nên khó phát hiện bằng mắt thường, thì những trang web như thế này là cần thiết như một phần của giải pháp.
“Công cụ của chúng tôi có thể xác định xem có điều gì đó đáng ngờ không, sau đó bạn có thể xác minh bằng chính mắt mình để nói rằng, ‘Tôi nghĩ điều đó đáng ngờ'”, Vekiarides cho biết.
DeepFake-O-Meter
DeepFake-O-Meter là một công cụ miễn phí khác được Đại học Buffalo và Quỹ khoa học quốc gia hỗ trợ. Công cụ này đã xác định hai trong số các video thực có tỷ lệ phần trăm cao được tạo ra bởi AI.
Trong một email, người tạo ra nền tảng mở này cho biết một hạn chế của các mô hình phát hiện deepfake là nén video có thể dẫn đến các vấn đề đồng bộ với video và âm thanh cũng như chuyển động của miệng không nhất quán.
Để trả lời câu hỏi về cách người dùng hàng ngày có thể sử dụng công cụ này, công ty đã gửi email như sau: “Hiện tại, kết quả chính được hiển thị cho người dùng là giá trị xác suất của mẫu này là mẫu được tạo trên các mô hình phát hiện khác nhau. Điều này có thể được sử dụng làm tài liệu tham khảo nếu nhiều mô hình đồng ý với cùng một câu trả lời với độ tin cậy (ví dụ: trên 80% đối với mẫu do AI tạo ra hoặc dưới 20% đối với video thực). Hiện tại, chúng tôi đang phát triển một cách dễ hiểu hơn để hiển thị kết quả, cũng như các mô hình mới có thể đưa ra kết quả phát hiện toàn diện”.
Sensity
Máy phát hiện deepfake của Sensity đã xác định chính xác cả sáu clip, hiển thị bản đồ nhiệt cho biết nơi có khả năng xảy ra thao túng của AI cao nhất.
Công ty cung cấp thời gian dùng thử miễn phí để sử dụng dịch vụ của mình và nói với I-Team rằng mặc dù hiện tại dịch vụ này được thiết kế riêng cho các tổ chức tư nhân và công cộng, nhưng mục tiêu trong tương lai của công ty là cung cấp công nghệ này cho tất cả mọi người.
