Deepfake là gì? – osuairportpart150.com

Cùng với osuairportpart150.com tìm hiểu về Deepfake là gì? – osuairportpart150.com

Deepfake là gì?

Deepfake (một từ ghép của “deep learning” và “kém chất lượng”) là một kỹ thuật để tổng hợp hình ảnh con người dựa trên trí tuệ nhân tạo (AI). Nó được sử dụng để kết hợp và chồng những hình ảnh và video hiện sở hữu lên những hình ảnh hoặc video nguồn bằng cách sử dụng một kỹ thuật học máy (machine learning) được gọi là Generative Adversarial Network (tạm dịch là mạng chống đối tạo sinh). Cụm từ Deepfake đã được đặt ra vào năm 2017.

Nói nôm na, dễ hiểu thì deepfake là những nội dung giả được tạo ra từ AI, sở hữu thể là hình ảnh, video, thậm chí là âm thanh mà rất khó phân biệt thật giả bằng mắt/tai theo cách thông thường.

Vì những khả năng này, deepfake được sử dụng để tạo tin tức giả và những trò lừa đảo độc hại.

Video deepfake được tạo ra bằng cách nào?

Video deepfake được tạo sử dụng hai hệ thống AI, một hệ thống được gọi là generator (bộ tạo) và hệ thống còn lại gọi là discriminator (bộ phân biệt). Generator tạo một clip video giả và sau đó yêu cầu discriminator xác nhận xem đâu là clip giả, đâu là clip thật. Mỗi lần discriminator phân biệt chính xác một video clip giả, nó sẽ cung cấp cho generator một manh mối về những việc ko nên làm lúc tạo clip tiếp theo.

Deepfake là gì

Generator và discriminator tạo một thứ được gọi là Generative Adversarial Network (GAN). Bước lần đầu là thiết lập một mạng GAN để xác định đầu ra mong muốn và tạo cơ sở dữ liệu đào tạo cho generator. lúc generator bắt đầu tạo mức đầu ra chấp nhận được, video clip sở hữu thể được cấp cho discriminator.

Generator và discriminator liên tục cải thiện khả năng trong quá trình tạo video deepfake. lúc generator làm tốt hơn trong việc tạo video clip giả, discriminator cũng tăng khả năng phát hiện ra chúng. Ngược lại, lúc discriminator phát hiện video giả tốt hơn, generator cũng tạo video giả ngày một tinh vi.

Cho tới mới đây, nội dung video đã khó thay đổi hơn. Tuy nhiên, vì deepfake được tạo thông qua AI, nên chúng ko yêu cầu kỹ năng đáng kể để tạo một video thực tế. Thật ko may, điều này sở hữu nghĩa là bất cứ ai cũng sở hữu thể tạo ra một deepfake. Một điều nguy hiểm nữa là mọi người sẽ ko tin tưởng vào tính hợp lệ của bất cứ nội dung video nào nữa.

Deepfake được sử dụng như thế nào?

Mặc dù khả năng tự động hoán đổi khuôn mặt để tạo video tổng hợp trông chân thực và đáng tin cậy sở hữu một số ứng dụng thú vị và ko gây hại (chẳng hạn như trong phim ảnh và lúc chơi game), đây rõ ràng là một kỹ thuật nguy hiểm và sở hữu thể gây rắc rối. Trên thực tế, một trong những ứng dụng thực tế lần đầu cho deepfake là để tạo ra nội dung khiêu dâm, gây tổn hại nghiêm trọng tới danh tiếng của người khác. Theo báo cáo của Deeptrace, nội dung khiêu dâm chiếm 96% những video deepfake được tìm thấy trực tuyến vào năm 2019.

Video Deepfake cũng đã được sử dụng trong chính trị. Ví dụ, vào năm 2018, một đảng chính trị của Bỉ đã phát hành video ông Donald Trump sở hữu bài phát biểu kêu gọi Bỉ rút khỏi thỏa thuận khí hậu Paris. Tuy nhiên, ông Trump chưa một lần đưa ra bài phát biểu đó – đó là một deepfake.

Đây ko phải là lần lần đầu deepfake được sử dụng để tạo video gây hiểu lầm và những chuyên gia chính trị am hiểu về kỹ thuật đang chuẩn bị cho làn sóng tin tức giả trong tương lai sở hữu những deepfake thực tế một cách thuyết phục.

Tất nhiên, ko phải tất cả video deepfake đều gây ra mối đe dọa hiện hữu đối với nền dân chủ. ko thiếu những câu chuyện sâu sắc được sử dụng với mục đích hài hước và châm biếm, chẳng hạn như những con chip sẽ trả lời câu hỏi: Nicolas Cage sẽ trông như thế nào nếu anh đấy xuất hiện trong “Raiders of the Lost Ark”?

sở hữu phải deepfake chỉ bao gồm video ko?

Deepfake ko chỉ giới hạn ở video. Deepfake audio là một lĩnh vực đang phát triển nhanh chóng, với số lượng ứng dụng to lớn.

Giờ đây, sở hữu thể tạo ra âm thanh giả mạo nghe rất chân thực bằng cách sử dụng những thuật toán deep learning chỉ với vài giờ (hoặc trong một số trường hợp, vài phút) bằng file âm thanh của người sở hữu giọng nói đang được sao chép. Sau lúc tạo ra một mẫu giọng nói, sở hữu thể tạo ra âm thanh người đó đang nói bất cứ điều gì, chẳng hạn như bản ghi giả mạo giọng nói của một giám đốc điều hành được sử dụng để lừa đảo vào năm ngoái.

Deepfake audio sở hữu những ứng dụng y tế dưới dạng thay thế giọng nói, cũng như trong thiết kế game trên máy tính. Giờ đây những nhà lập trình sở hữu thể cho phép những nhân vật trong game nói bất cứ điều gì trong thời gian thực, thay vì dựa vào một bộ script giới hạn đã được ghi lại trước trong game.

Làm thế nào để phát hiện một deepfake?

lúc deepfake trở nên phổ biến hơn, xã hội nói chung rất sở hữu thể sẽ cần phải thích ứng với việc phát hiện những video deepfake, tương tự cách người sử dụng trực tuyến hiện đang nhắm việc phát hiện những loại tin giả khác.

Thông thường, cũng như trường hợp an ninh mạng, kỹ thuật deepfake phải xuất hiện nhiều hơn để mọi người sở hữu thể phát hiện và ngăn chặn nó lây lan, nhưng từ đó sở hữu thể tạo ra một vòng luẩn quẩn và rất sở hữu khả năng tạo ra nhiều tác hại hơn.

sở hữu một số dấu hiệu để chỉ ra một deepfake là:

– Deepfake hiện tại gặp khó khăn trong việc tạo hoạt ảnh khuôn mặt một cách chân thực và kết quả là một video mà trong đó mục tiêu ko bao giờ chớp mắt quá thường xuyên hoặc ko tự nhiên. Tuy nhiên, sau lúc những nhà nghiên cứu tại Đại học Albany tuyên bố một nghiên cứu phát hiện ra sự bất thường trong việc nháy mắt, những deepfake mới phát hành ko còn vấn đề này nữa.

– sở hữu những vấn đề về da hoặc tóc hoặc khuôn mặt sở hữu vẻ mờ hơn so với môi trường. Tiêu điểm sở hữu thể trông ko tự nhiên.

– Ánh sáng trông ko tự nhiên? Thông thường, những thuật toán deepfake sẽ giữ lại ánh sáng của những clip được sử dụng làm mô hình cho video giả mạo, điều này ko phù hợp với ánh sáng trong video đích.

– Âm thanh sở hữu thể ko khớp với người, đặc thù nếu video bị làm giả nhưng âm thanh gốc ko được xử lý kỹ lưỡng.

Đấu tranh với deepfake bằng kỹ thuật

Mặc dù deepfake sẽ chỉ thực tế hơn theo thời gian lúc những kỹ thuật được cải thiện, nhưng ko phải là ko sở hữu những biện pháp chống lại chúng. Một số liên doanh đang phát triển những phương pháp để phát hiện ra deepfake, trong số đó sở hữu những liên doanh khởi nghiệp.

Ví dụ, Sensity đã phát triển một nền tảng phát hiện tương tự như một ứng dụng diệt virus để cảnh báo người sử dụng qua email lúc họ đang xem thứ gì đó sở hữu dấu hiệu do AI tạo ra. Sensity sử dụng những tiến trình deep learning giống nhau được sử dụng để tạo video giả.

Operation Minerva thực hiện một cách tiếp cận đơn thuần hơn để phát hiện những deepfake. Thuật toán của liên doanh này so sánh những deepfake tiềm năng với những video đã biết, được “lấy dấu vân tay kỹ thuật số”. Chẳng hạn, nó sở hữu thể phát hiện những ví dụ về những đoạn phim khiêu dâm, bằng cách quan sát rằng video deepfake chỉ là phiên bản sửa đổi của video hiện sở hữu mà Operation Minerva đã lập danh mục.

Và năm ngoái, Facebook đã tổ chức Deepfake Detection Challenge, một sáng kiến ​​hợp tác cởi mở, nhằm khuyến khích việc tạo ra những kỹ thuật mới để phát hiện deepfake và những loại nội dung media bị thao túng khác. Cuộc thi sở hữu giải thưởng lên tới $500.000.

Nguồn: Deepfake là gì? – osuairportpart150.com ; Deepfake là gì? – osuairportpart150.com