Để tìm hiểu cách bảo vệ bản thân khỏi trở thành nạn nhân của thông tin sai lệch, trước tiên bạn cần hiểu deepfake là gì. Deepfake là hình ảnh hoặc video do AI tạo ra để tạo ra nội dung có độ chân thực cao.
Deepfake được tạo ra như thế nào?
Học sâu là phương pháp Trí tuệ nhân tạo (AI) tiên tiến, sử dụng nhiều lớp thuật toán học máy để trích xuất các tính năng cấp cao hơn từ dữ liệu đầu vào thô. Nó có khả năng học từ dữ liệu phi cấu trúc – chẳng hạn như khuôn mặt người.
Dữ liệu đó được xử lý để tạo video Deepfake thông qua GAN (Mạng đối nghịch tạo sinh) - một hệ thống máy học chuyên dụng. Hai mạng nơ-ron được sử dụng để cạnh tranh với nhau trong việc học các đặc điểm của một tập dữ liệu đào tạo (ví dụ, ảnh chụp các khuôn mặt) và sau đó tạo ra dữ liệu mới có cùng đặc điểm ('ảnh chụp' mới).
Khi mạng kiểm tra các hình ảnh được tạo ra so với tập dữ liệu đào tạo, các hình ảnh, video và âm thanh giả sẽ trở nên thuyết phục hơn. Điều này khiến Deepfake trở thành mối đe dọa ngày càng nguy hiểm hơn vì chúng có thể sử dụng các kỹ thuật tổng hợp để sao chép giọng nói.
Một phương pháp khác để tạo deepfake là sử dụng kiến trúc autoencoder. Mạng nơ-ron tự động mã hóa được thiết kế để mã hóa dữ liệu (như hình ảnh) thành biểu diễn tiềm ẩn có chiều thấp hơn (tức là thành các vectơ toán học thay vì pixel), nén dữ liệu, sau đó tái tạo lại dữ liệu đó ở đầu kia của đường truyền. Bộ mã hóa tự động được sử dụng cho nhiều mục đích trong thị giác máy tính, chẳng hạn như phân tích chữ viết tay và nhận dạng khuôn mặt.
Vì bộ mã hóa tự động tìm kiếm dữ liệu 'cần thiết' từ hình ảnh (chẳng hạn như hình ảnh khuôn mặt) nên chúng rất hiệu quả trong việc loại bỏ nhiễu hình ảnh. Trong trường hợp của phần mềm deepfake, điều này có nghĩa là kiến trúc mã hóa tự động có thể học các đặc điểm và tính năng cơ bản từ hình ảnh khuôn mặt trong khi phần lớn bỏ qua các yếu tố bên ngoài như hạt, bóng và các yếu tố 'không phải khuôn mặt' khác có thể có trong hình ảnh, tạo ra các mô hình linh hoạt và tổng quát hóa tốt (tức là các mô hình có thể thực hiện các chuyển đổi hữu ích trên dữ liệu khác với dữ liệu đào tạo ban đầu của chúng).
Deepfake được sử dụng như thế nào
Trong khi khái niệm deepfake cũng được sử dụng để tạo hiệu ứng hình ảnh trong phim, deepfake trực tuyến có nhiều mục đích:
Các chiến dịch thông tin sai lệch, đặc biệt là trong các cuộc bầu cử, nhằm thay đổi quan điểm của mọi người.
Tống tiền là khi ai đó tạo ra video hoặc hình ảnh deepfake của bạn và đe dọa sẽ phát tán nếu bạn không đáp ứng yêu cầu của họ.
Lừa đảo qua mạng là hành vi mạo danh người khác trong thời gian thực với mục đích giúp đỡ bạn bè, thành viên gia đình hoặc đồng nghiệp.
Gian lận tài chính sử dụng công nghệ deepfake để đánh cắp danh tính .
Mối nguy hiểm của Deepfake
Khi công nghệ và AI phát triển, việc tạo video và hình ảnh deepfake trực tuyến trở nên dễ dàng hơn và thuyết phục hơn. Nguy cơ trở thành nạn nhân của deepfake gây ra rủi ro cao cho các doanh nghiệp, người nổi tiếng, nhân viên, ứng cử viên bầu cử và cả cá nhân bình thường.
Gian lận
Năm 2023, một nhân viên tài chính ở Hồng Kông đã trả 25 triệu đô la cho một kẻ lừa đảo vì công nghệ deepfake. Người công nhân này được mời tham dự cuộc gọi video với các đồng nghiệp và giám đốc tài chính của công ty. Trong cuộc gọi, nhân viên này đã đồng ý chuyển 200 triệu đô la Hồng Kông.
Mặc dù anh ấy nhìn thấy các nhân viên khác và giám đốc tài chính trong cuộc họp, nhưng tất cả đều là AI giả mạo đã thao túng các tính năng nhận dạng khuôn mặt để trông giống như các đồng nghiệp và giám đốc tài chính.
Tống tiền và phỉ báng
Vào năm 2020, cảnh sát Hàn Quốc đã phát hiện ra một đường dây chuyên chụp ảnh các nữ sinh trung học để tạo và phát tán trên ứng dụng nhắn tin Telegram. Giúp đỡ những người đàn ông này là những cậu bé học sinh trung học, những người sẽ chụp ảnh bạn cùng lớp, một số trong đó còn là trẻ vị thành niên, và sau đó gửi chúng cho những người sáng tạo ra chúng.
Những video này sẽ được phát tán trên nhiều nền tảng khác nhau , khiến các cô gái không thể làm gì được. Mặc dù họ không phải là người thực hiện hành vi, nhưng bằng chứng giả mạo vẫn tác động đến cách nhìn nhận của xã hội về họ và vẫn gây ra chấn thương.
lừa đảo deepfake
Năm 2024, một phụ nữ 77 tuổi người Anh tên Nikki đã bị lừa 17.000 bảng Anh thông qua video deepfake. Người phụ nữ này gặp một người phụ nữ khác trên mạng và họ đã hình thành mối quan hệ - hoặc ít nhất là cô ấy nghĩ vậy. Kẻ lừa đảo nói rằng họ đang làm việc trên giàn khoan dầu và không thể gọi video, và nạn nhân cần phải trả tiền mua phiếu mua hàng để có thể truy cập Internet. Khi Nikki bắt đầu nghi ngờ, kẻ thủ ác bắt đầu gửi cho cô những đoạn video "tự quay trên giàn khoan dầu", khiến Nikki dập tắt mọi nghi ngờ. Khi mối quan hệ tiếp tục, Nikki thường yêu cầu gọi điện video nhưng luôn bị từ chối, nhưng ngay sau đó sẽ nhận được các tài liệu, hình ảnh và video do AI tạo ra để cô ấy cảm thấy thoải mái hơn - và sau đó lại yêu cầu thêm tiền.
Nikki chỉ biết về vụ lừa đảo khi cô đang cố chuyển tiền vào tài khoản ngân hàng của đối tác.
Deepfake vô hại
Một số deepfake trực tuyến chỉ nhằm mục đích giải trí nhằm thu hút thêm người theo dõi trên các nền tảng mạng xã hội.
Một trong những video deepfake phổ biến nhất là video của Tom Cruise được phát hành trên TikTok. Tài khoản này có một triệu người theo dõi và một số video đạt tới gần 50 triệu lượt xem, mặc dù không phải do Tom Cruise thủ vai. Ban đầu, mọi người nghĩ rằng người nổi tiếng đã tham gia nền tảng này vì các video, hình ảnh, giọng nói thậm chí tính cách đều rất thuyết phục.
Vào năm 2022 , một nhà sáng tạo nội dung trên YouTube, Shamook, đã thực hiện đoạn giới thiệu phim Người Nhện mới và thay thế nam diễn viên Tom Holland bằng nam diễn viên gốc là Tobey Maguire. Với tiêu đề là Deepfake, video này hoàn toàn mang mục đích giải trí.
Làm thế nào để ngăn chặn deepfake
Khi deepfake đang nhanh chóng trở thành mối lo ngại và rủi ro bảo mật ngày càng gia tăng, bạn có thể thực hiện một số hành động để ngăn chặn tình trạng này xảy ra với bạn hoặc doanh nghiệp của bạn.
Xác minh tất cả các yêu cầu
Nếu bạn được yêu cầu cung cấp thông tin cá nhân hoặc thông tin nhạy cảm, hãy xác nhận danh tính của người gọi thông qua kênh thứ cấp, chẳng hạn như gọi lại cho họ theo địa chỉ công ty mà họ khai báo.
Sử dụng cài đặt quyền riêng tư trên tất cả các tài khoản trực tuyến
Hạn chế quyền truy cập vào các tài khoản mạng xã hội có video hoặc hình ảnh của bạn để giảm nguy cơ sao chép hình ảnh của bạn.
Bảo vệ mật khẩu
Thay đổi mật khẩu của bạn thường xuyên. Đảm bảo tất cả mật khẩu đều mạnh , độc đáo, phức tạp và dài ít nhất 16 ký tự. Đối với các tài khoản dùng chung, hãy sử dụng phần mềm chia sẻ mật khẩu để bạn không phải cung cấp mật khẩu cho gia đình hoặc nhân viên.
Thêm xác thực hai yếu tố cho tài khoản
Đảm bảo rằng tất cả tài khoản trực tuyến yêu cầu bạn xác minh danh tính trước khi truy cập bằng xác thực hai yếu tố. Điều này khiến kẻ lừa đảo khó xâm nhập vào tài khoản của bạn hơn.
Cập nhật phần mềm thường xuyên
Cập nhật phần mềm rất quan trọng để đảm bảo thiết bị của bạn được bảo vệ khỏi phần mềm độc hại , phần mềm gián điệp và lỗi mới nhất.
Đào tạo nhân viên thường xuyên
Cũng giống như công nghệ phát triển, phương thức lừa đảo deepfake cũng vậy. Điều quan trọng là phải cập nhật những vụ lừa đảo mới nhất và trao đổi với nhân viên về cách nhận diện chúng.
Biết cách xác định video deepfake
Hãy theo dõi các đặc điểm trên khuôn mặt của từng người trong video để xác minh rằng chúng phù hợp với chuyển động bình thường của con người.
Video có bị giật hoặc không rõ nét không?
Kiểm tra các chuyển động tự nhiên, như chớp mắt. Quá ít hay quá nhiều?
Hãy xem bóng đổ và ánh sáng trong video để xem chúng có đồng nhất không.
Chụp ảnh màn hình và tải lên Google để xác thực nguồn.
Phải làm gì nếu bạn là nạn nhân
Ghi lại bằng chứng
Đảm bảo lưu lại các video deepfake và mọi thứ liên quan đến chúng, bao gồm bình luận, nền tảng chia sẻ video (nếu có), ảnh chụp màn hình và mọi dữ liệu liên quan đến video đó. Hãy ghi lại ngày, giờ và nền tảng xảy ra sự việc.
Thông báo nền tảng
Nếu nội dung deepfake đến từ một nền tảng, hãy báo cáo với nền tảng lưu trữ mà bạn đã thấy nội dung đó, ví dụ như YouTube, Facebook hoặc X. Hầu hết các nền tảng đều có chính sách xóa nội dung phương tiện bị thao túng .
Liên hệ với các cơ quan chức năng
Deepfake liên quan đến hành vi trộm cắp danh tính hoặc tài chính là hành vi phạm tội. Thông báo cho cơ quan thực thi pháp luật địa phương và trình bày bằng chứng để chính quyền có thể ban hành báo cáo chính thức. Báo cáo này có thể được sử dụng cho ngân hàng, công ty bảo hiểm và các tài khoản chính thức khác của tội phạm.
Tìm kiếm hành động pháp lý
Nghiên cứu luật phỉ báng, bản quyền hoặc quyền riêng tư tại khu vực pháp lý của bạn để đảm bảo rằng bạn có một vụ kiện thuyết phục. Kiểm tra xem có người nào khác cũng là nạn nhân của trò lừa đảo này không và nếu có thể, hãy điều tra một vụ kiện tập thể.
Thuê một công ty quan hệ công chúng
Nếu danh tiếng của bạn hoặc doanh nghiệp của bạn bị đe dọa, việc hợp tác với chuyên gia quan hệ công chúng có thể giúp bạn soạn thảo phản hồi và gửi đến các bên cần thiết để giảm thiểu thiệt hại.
Công nghệ chống giả mạo hiện đại
Một số công ty công nghệ đang sản xuất các công cụ phát hiện deepfake để giúp ngăn chặn sự phát tán thông tin sai lệch, gian lận và lừa đảo.
Một số công nghệ mới nổi hiện đang giúp các nhà sản xuất video xác thực các video của họ. Có thể sử dụng thuật toán mật mã để chèn các hàm băm vào những khoảng thời gian nhất định trong video; nếu video bị thay đổi, hàm băm cũng sẽ thay đổi. AI và blockchain có thể đăng ký dấu vân tay kỹ thuật số chống giả mạo cho video. Nó tương tự như việc thêm hình mờ vào tài liệu; điều khó khăn với video là các hàm băm cần tồn tại nếu video được nén để sử dụng với các phần mềm mã hóa và giải mã khác nhau.
Một cách khác để đẩy lùi các nỗ lực Deepfake là sử dụng một chương trình chèn các "tạo tác" kỹ thuật số được thiết kế đặc biệt vào video để che giấu các mẫu pixel mà phần mềm phát hiện khuôn mặt sử dụng. Những điều này làm chậm thuật toán Deepfake và dẫn đến kết quả chất lượng kém – khiến cơ hội thành công của Deepfake ít có khả năng xảy ra hơn.
Bảo vệ an ninh phòng ngừa:
Đảm bảo các nhân viên và gia đình biết về cách thức hoạt động của việc làm Deepfake và những thách thức mà nó có thể đặt ra.
Tự trang bị cho mình và người khác kiến thức về cách phát hiện Deepfake.
Đảm bảo rằng bạn có hiểu biết về phương tiện truyền thông và sử dụng các nguồn tin tức chất lượng tốt.
Có các giao thức cơ bản tốt. Thái độ hoài nghi đối với thư thoại và video không đảm bảo rằng bạn sẽ không bao giờ bị lừa, nhưng nó có thể giúp bạn tránh được nhiều cạm bẫy.
Việc sao lưu thường xuyên sẽ bảo vệ dữ liệu của bạn khỏi mã độc tống tiền và giúp bạn có khả năng khôi phục dữ liệu bị hỏng.
Việc sử dụng các mật khẩu mạnh khác nhau cho các tài khoản khác nhau đồng nghĩa với việc nếu một mạng hoặc dịch vụ bị xâm nhập thì điều đó không có nghĩa là bất kỳ mạng hoặc dịch vụ nào khác cũng bị xâm phạm. Nếu ai đó xâm nhập vào tài khoản Facebook của bạn, bạn sẽ không muốn họ có thể xâm nhập vào các tài khoản khác của bạn.
Sử dụng gói bảo mật tốt như Kaspersky Antivirus để bảo vệ mạng gia đình, máy tính xách tay và điện thoại thông minh của bạn khỏi các mối đe dọa mạng. Gói này cung cấp phần mềm diệt vi-rút, VPN để ngăn chặn kết nối Wi-Fi của bạn bị hack và bảo vệ cả webcam của bạn nữa.
Tương lai của Deepfake là gì?
Deepfake không ngừng phát triển. Hai năm trước, thực sự dễ dàng nhận biết các video Deepfake thông qua chất lượng chuyển động vụng về và việc người giả mạo dường như không bao giờ chớp mắt. Đảm bảo bạn luôn an toàn khi trực tuyến và luôn cảnh giác, nghi ngờ mọi hoạt động trực tuyến, đặc biệt là khi liên quan đến thông tin cá nhân, sẽ giúp mọi người xác định hành vi gian lận trước khi nó xảy ra.
Câu hỏi thường gặp về Quấy rối trên mạng
Lừa đảo là gì?
Tấn công lừa đảo dựa trên kỹ thuật xã hội là một loại hình lừa đảo qua mạng nhằm lừa đảo và thao túng cá nhân bằng cách mạo danh người khác. Mục tiêu của những vụ lừa đảo này là trích xuất thông tin nhạy cảm và khiến nạn nhân chuyển tiền hoặc truy cập vào hệ thống.
Tôi có nên lo lắng về trò lừa đảo sử dụng giọng nói deepfake không?
Có Kẻ lừa đảo hiện có thể tạo ra âm thanh deepfake nghe giống hệt bạn để tống tiền bạn bè, gia đình hoặc đồng nghiệp với lý do giúp đỡ bạn. Để tránh điều này, hãy thiết lập một mật mã hoặc câu hỏi bảo mật với những người thân yêu mà kẻ lừa đảo không biết câu trả lời, bạn có thể hỏi họ trong khi gọi điện để xác minh danh tính của họ.
Trộm cắp danh tính bằng deepfake diễn ra như thế nào?
Kẻ lừa đảo có thể sử dụng hình ảnh hoặc giọng nói của bạn để làm giả tài liệu, thay đổi số tài khoản hoặc mạo danh bạn qua điện thoại.
Deepfake được tạo ra như thế nào?
Video, âm thanh và hình ảnh Deepfake được tạo ra bởi AI. Máy học sẽ tiếp nhận tất cả dữ liệu về ngoại hình của bạn và tạo ra phiên bản tổng hợp.
Sản phẩm được khuyến cáo:
