Công nghệ deepfake là một công nghệ dựa trên AI được sử dụng để sản xuất hoặc thay đổi nội dung video để nó thể hiện điều gì đó thực tế không xảy ra.
Thuật ngữ này được đặt tên theo một người dùng mạng xã hội Reddit có nick name deepfakes, vào tháng 12 năm 2017, đã sử dụng công nghệ học sâu để chỉnh sửa khuôn mặt của những người nổi tiếng ghép lên những người xuất hiện trong các video clip khiêu dâm. Người dùng này đã sử dụng trí tuệ nhân tạo để ghép mặt các diễn viên nổi tiếng như Scarlett Johansson hay Gal Gadot vào cơ thể của những diễn viên khiêu dâm.
Thuật ngữ deepfake, áp dụng cho cả công nghệ và video được tạo ra với nó, là mô tả của việc học sâu và giả mạo.
Video deepfake được tạo bằng cách sử dụng hai hệ thống AI cạnh tranh – một được gọi là trình tạo và cái còn lại được gọi là phân biệt. Về cơ bản, trình tạo tạo một video clip giả và sau đó yêu hệ thống AI phân biệt để xác định xem clip đó là thật hay giả. Mỗi lần AI phân biệt xác định chính xác một video clip là giả mạo, nó sẽ cung cấp cho người tạo một manh mối về những việc không nên làm khi tạo clip tiếp theo.
Cùng với nhau, trình tạo và phân biệt tạo thành một cái gì đó gọi là mạng đối nghịch chung (GAN). Bước đầu tiên trong việc thiết lập GAN là xác định đầu ra mong muốn và tạo tập dữ liệu huấn luyện cho trình tạo. Khi trình tạo bắt đầu tạo mức đầu ra chấp nhận được, các video clip có thể được cung cấp cho bộ phân biệt.
Khi trình tạo trở nên tốt hơn trong việc tạo các video clip giả, trình phân biệt sẽ phát hiện ra chúng tốt hơn. Ngược lại, khi trình phân biệt trở nên tốt hơn trong việc phát hiện video giả, trình tạo sẽ trở nên tốt hơn trong việc tạo ra chúng.
Cho đến gần đây, nội dung video đã khó thay đổi hơn theo bất kỳ cách đáng kể nào. Tuy nhiên, vì các phần mềm sâu được tạo thông qua AI, nên chúng không yêu cầu kỹ năng đáng kể để tạo ra một video thực tế. Thật không may, điều này có nghĩa là bất cứ ai cũng có thể tạo ra một tác phẩm sâu sắc để thúc đẩy chương trình nghị sự đã chọn của họ. Một nguy hiểm là mọi người sẽ đánh giá những video như vậy theo khuôn mặt giả; đồng thời một điều nữa là mọi người sẽ ngừng tin tưởng vào tính hợp lệ của bất kỳ nội dung video nào.
