Header Ads

Deepfake là gì? Tại sao Deepfake lại tiềm ẩn nguy hiểm không lường?

Deepfake là kết hợp của thuật ngữ 'deep (học sâu)', là một thuật ngữ về trí tuệ nhân tạo và 'fake (giả mạo)'. Công nghệ tương lai trở thành mối đe dọa nguy hiểm tiềm ẩn cho con người.

Deepfake là gì? Tại sao Deepfake lại tiềm ẩn nguy hiểm không lường?

Deepfakes là gì?

Deepfakes như thể là từ một bộ phim khoa học viễn tưởng, công nghệ deepfake liên quan đến trí tuệ nhân tạo và mô hình học máy có thể điều khiển video. 
Ở dạng đơn giản nhất, deepfake là một video được chỉnh sửa mà nhân vật chính đang làm hoặc nói điều gì đó không bao giờ xảy ra. 
Khả năng này không giới hạn ở Hollywood hoặc các cơ quan tình báo; bất cứ ai cũng có thể sử dụng phần mềm trực tuyến hoặc tải xuống các ứng dụng sẽ cho phép họ tạo các video Deepfakes đầy thuyết phục.
Từ "deepfake" là một từ ghép của các thuật ngữ học sâu và học giả. Theo Forbes, học sâu là "một tập hợp con của máy học trong đó mạng lưới thần kinh nhân tạo, thuật toán lấy cảm hứng từ bộ não con người, học từ một lượng lớn dữ liệu."  Từ công nghệ này, chúng ta có được hình ảnh và video deepfake, được chế tạo và không trung thực nhưng nhìn và âm thanh rất thật.






Deepfake được tạo ra bằng cách cho phép một máy tính phân tích một lựa chọn lớn các chuyển động và hành vi của khuôn mặt của đối tượng và với AI cố gắng sao chép chúng qua các cảnh quay mới.
Hầu hết các video deepfake phổ biến bao gồm một nhân vật công chúng hoặc người nổi tiếng dễ nhận biết, người được kết hợp với cảnh quay của người khác để tạo thành video giả mạo. 
Một ví dụ là video của cựu tổng thống Mỹ Barack Obama dường như trông trực tiếp - nhưng thực tế, là do máy tính tạo ra và sử dụng giọng nói của diễn viên hài Jordan Peele. Nó được tạo ra để thông báo cho mọi người về các công nghệ deepfake.

Các ví dụ khác bao gồm video gần đây của Mark Zuckerberg, trong đó bản tái hiện đầy thuyết phục của Zuckerberg cho người xem thấy thành công của anh ta đến từ một tổ chức bí mật. Nó được đăng với hashtag #Deepfake như là một phần của dự án nghệ thuật.

Deepfake hoạt động như thế nào? 

Video Deepfake được tạo bằng cách sử dụng hai hệ thống AI cạnh tranh - một được gọi là trình tạo và cái còn lại được gọi là phân biệt. 
Về cơ bản, trình tạo tạo một video clip giả và sau đó yêu cầu trình phân biệt xác định xem clip đó là thật hay giả. Mỗi lần trình phân biệt xác định chính xác một video clip là giả mạo, nó sẽ cung cấp cho trình tạo một manh mối về những việc không nên làm khi tạo clip tiếp theo để clip thật hơn.

Cùng với nhau, trình tạo và trình phân biệt tạo thành một cái gì đó gọi là mạng đối nghịch chung (GAN). Bước đầu tiên trong việc thiết lập GAN là xác định đầu ra mong muốn và tạo tập dữ liệu huấn luyện cho trình tạo. Khi trình tạo bắt đầu tạo mức đầu ra chấp nhận được, các video clip có thể được cung cấp cho trình phân biệt.
Khi trình tạo trở nên tốt hơn trong việc tạo các video clip giả, trình phân biệt sẽ phát hiện ra chúng tốt hơn. Ngược lại, khi trình phân biệt trở nên tốt hơn trong việc phát hiện video giả, trình tạo sẽ trở nên tốt hơn trong việc tạo ra chúng. 

Deepfake ảnh hưởng đến xã hội con người như thế nào?

Do tính chất lan truyền và không thể kiểm chứng của nội dung được chia sẻ trên phương tiện truyền thông xã hội, công nghệ deepfake có khả năng phá hoại trật tự xã hội và thậm chí phá vỡ quan hệ quốc tế. 
Hãy tưởng tượng một kịch bản mà bạn đang ở trên phương tiện truyền thông xã hội và bắt gặp một video mà nhiều người bạn của bạn đã chia sẻ. Bạn bấm vào video và thấy tổng thống tuyên bố tình trạng khẩn cấp quốc gia hoặc khủng hoảng quốc tế.
Những video giả mạo này có thể phá vỡ toàn bộ xã hội và thế giới của chúng ta trong vòng vài phút. Trong khi kịch bản này có vẻ giống như cốt truyện của bộ phim hành động mới nhất, thì những tác phẩm 'giả mạo' thể hiện mối đe dọa này.
Ngoài ra, ngành công nghiệp phim nóng cũng đã chiếm lĩnh công nghệ deepfake. Deepfake có thể giúp một người có thể xem một video sẽ xuất hiện bất kỳ ai mà họ lựa chọn trong đó. Các video sau đó có thể bao gồm sự xuất hiện của bất kỳ người nào khác, từ người nổi tiếng đến người xem bình thường.

Thật không may, việc sử dụng deepfake vào công nghiệp phim nóng cũng đặt ra mối đe dọa bằng việc trả thù bằng 'phim nóng giả'. Công nghệ này giúp dễ dàng đưa khuôn mặt hoặc cơ thể của bất kỳ ai vào bất kỳ kịch bản nào có thể tưởng tượng được và khiến nó trông rất thật, điều đó có nghĩa là bất kỳ ai đều có cơ hội gần như vô hạn để tạo và lan truyền hình ảnh sai lệch có thể gây tổn hại đến uy tín của nạn nhân.
Deepfake vẫn còn khá mới, nhưng nó có khả năng gây ra nhiều tác hại nếu nó nằm trong tay kẻ xấu. Những gã khổng lồ công nghệ thì chưa sẵn sàng loại bỏ những thông tin nguy hiểm và tin tức giả mạo trên mạng thế nên cần có nhiều biện pháp hơn nữa để bảo vệ con người khỏi Deepfake.

No comments

» Sử dụng tài khoản Google của bạn để bình luận.
» Không spam link, nếu spam sẽ bị chặn và nhận xét của bạn sẽ không được hiển thị.
» Khi đăng nhập xong, bạn nhấn vào chữ Thông báo cho tôi để nhận phản hồi.

Powered by Blogger.