Công nghệ Deepfake mặt trái của trí tuệ nhân tạo AI

Công nghệ deepfake đang phát triển nhanh chóng và trở nên ngày càng tinh vi. Vậy bạn đã hiểu bao nhiêu về công nghệ này. Hãy cùng toichiase tìm hiểu nhé.

{tocify} $title={Mục lục}

Công nghệ deepfake đang phát triển nhanh chóng và trở nên ngày càng tinh vi. Hiện tại, kẻ xấu chủ yếu lợi dụng công nghệ này tạo ra những nội dung khiêu dâm giả mạo, tuy nhiên chính phủ các nước đang lo ngại sẽ có nhiều video giả mạo được tung ra với mục đích dẫn dắt dư luận, gây bất ổn chính trị hoặc ảnh hưởng xấu đến tình hình kinh doanh của một công ty nào đó. Các nhà nghiên cứu tại Đại học New York gọi deepfake là “mối đe dọa ở đường chân trời”, “có khả năng làm xói mòn niềm tin của công chúng với các tổ chức dân chủ”.

Công nghệ Deepfake có nhiều mặt tốt, xong bên cạnh đó cũng có nhiều mặt xấu. Nếu chẳng may kẻ xấu lạm dụng công nghệ này, nó có thể gây ra các hệ lụy cực kỳ nghiêm trọng. Trong bài viết dưới đây Toichiase.epizy.com sẽ giải đáp cho bạn chi tiết về Deepfake là gì? Hoạt động như thế nào nhé.

Công nghệ Deepfake là gì?

Bắt nguồn từ một người dùng Reddit có tên “deepfakes”, cái tên này đã mở đường cho công nghệ học sâu (deep learning), một mảng nhỏ của công nghệ học máy (machine learning) – sử dụng trí tuệ nhân tạo huấn luyện máy tính thực hiện một nhiệm vụ nào đó.

Với sự gia tăng mạnh mẽ của điện toán đám mây và những giải pháp mới được phát hiện để xử lý và phân tích lượng dữ liệu khổng lồ trong thế giới thực, máy tính có thể làm được những điều mà chúng ta không thể tưởng tượng được.

Deepfake áp dụng công nghệ này để tổng hợp các hình ảnh của con người và tạo ra các hình ảnh hoặc video về những thứ mà trước đó họ chưa từng làm và chưa bao giờ làm.

Về cơ bản, công nghệ deepfake sẽ thu hình ảnh chất lượng cao khuôn mặt của một đối tượng nhất định, sau đó thay thế hoàn toàn khuôn mặt của một người khác trong video. Các tập tin âm thanh deepfake được tạo ra bằng cách sử dụng bản ghi âm thực để huấn luyện máy tính nói chuyện giống hệt đối tượng cụ thể. Những kỹ thuật học máy tương tự có thể được sử dụng để đào tạo máy tính viết văn bản giả. Tùy theo ý đồ của người tạo mà video sẽ được điều chỉnh chậm, tăng nhanh hoặc chỉnh sửa để đánh lừa người xem.

Công nghệ Deepfake hoạt động như thế nào?

Deep learning, nền tảng của các phương pháp Deepfake, mô tả ứng dụng hiện đại của mạng nơ-ron nhân tạo (Artificial Neural Network) vào các bộ dữ liệu lớn. Mạng nơ-ron nhân tạo không phải là khái niệm hay công nghệ mới nào cả, tính đến thời điểm hiện tại mạng lưới này vẫn còn khá thô sơ.

Một mạng lưới nơ-ron nhân tạo mô phỏng quá trình học xảy ra trong bộ phận não sinh học ở một mức độ nào đó. Khi một người học hoặc phản ứng với thế giới bên ngoài, các kết nối giữa các tế bào não của họ sẽ thay đổi.

Chúng tạo thành các mạch và cấu trúc logic, tăng cường một số kết nối và làm yếu các kết nối khác. Khi bạn đã thành thạo một thứ gì đó, chẳng hạn như lái xe, những mạch não này sẽ phản hồi nhanh hơn và hiệu quả hơn. Kết quả cuối cùng là bạn trở nên giỏi trong một lĩnh vực nào mà bạn trước giờ bạn vẫn nghĩ mình không thể làm được.

Về cơ bản, điều này cũng xảy ra tương tự với hệ thống Deep learning. Nó sẽ nhìn vào hàng đống ví dụ về một thứ, lĩnh vực gì đó và dần trở nên hiểu biết về lĩnh vực đó hơn.

Trong trường hợp của Deepfake, phần mềm sẽ quét video và ảnh chân dung của một người nào đó và gán khuôn mặt của một người này sang cho một người khác trong video.

Công nghệ gì được sử dụng để tạo ra deepfake?

Sẽ thật khó để tạo ra deepfake nếu chỉ sử dụng một chiếc máy tính thông thường. Hầu hết các sản phẩm deepfake được làm nên từ các máy tính cao cấp với card đồ họa mạnh mẽ, hay cao hơn nữa là sử dụng điện toán đám mây. Với những máy tính phổ thông, không có card đồ họa, vi xử lý trung tâm (CPU) cũng có thể thực hiện tác vụ, trong thời gian từ vài ngày đến vài tuần. Thời gian sẽ được rút xuống còn vài giờ nếu máy tính của chúng ta đủ mạnh. 

Dữ liệu để tạo nên một video ghép mặt giả mạo rất đơn giản, nó chính là những bức ảnh mà người dùng công khai trên mạng. Cách làm và công cụ cũng có sẵn. Người dùng “deepfakes” (Reddit) chia sẻ anh ta chỉ cần sử dụng những clip từ Youtube, ảnh tìm kiếm từ Google và một vài thuật toán mã nguồn mở như Google TensorFlow để cho cỗ máy “học”. Quá trình “học” chính là đóng góp mấu chốt của trí tuệ nhân tạo. Mọi sản phẩm sử dụng trí tuệ nhân tạo đều trải qua hai bước chính: nạp dữ liệu đầu vào, sau đó dựng lên mô hình và lựa chọn một thuật toán để liên tục xử lý, học từ các mô hình đó.

Chính việc ngày càng dễ dàng để tạo ra một video giả mạo, deepfake đã để lại sự lo lắng và hoang mang cho rất nhiều người. Dần dần con người trở nên dè chừng hơn, họ cần phải cẩn thận và tỉnh táo hơn khi tiếp nhận các thông tin trên mạng internet, đồng thời cần kiểm soát và bảo mật chặt chẽ thông tin cá nhân của mình, vì với deepfake, ai cũng có thể trở thành nạn nhân, ai cũng có thể bị lợi dụng.

Xem thêm: Công nghệ Blockchain nền tảng của tiền ảo ngày nay.

Công nghệ Deepfake đang được sử dụng với mục đích gì?

Tháng 9 năm ngoái, Deeptrace – một công ty có trụ sở tại Amsterdam chuyên phát hiện và theo dõi các cuộc tấn công sâu – báo cáo 96% những vụ lừa đảo trên mạng Internet là nội dung khiêu dâm giả mạo, trong đó khuôn mặt nạn nhân được ghép một cách tinh vi vào video mô tả những ngôi sao khiêu dâm đang có hành vi gợi dục. Những diễn viên nổi tiếng đến từ các nước phương Tây và các ca sĩ Hàn Quốc là mục tiêu thường xuyên nhất của kẻ xấu.

Đầu năm 2019, một nhóm tội phạm mạng đã lừa giám đốc điều hành công ty có trụ sở tại Anh trả cho họ 243.000 USD bằng cách sử dụng âm thanh deepfake giả giọng ông chủ của doanh nghiệp này qua điện thoại. Tháng 6 năm ngoái, bộ trưởng chính phủ Malaysia bị cáo buộc xuất hiện trong một video quan hệ tình dục với người đồng giới. Hành vi này là bất hợp pháp ở Malaysia, dù những người ủng hộ ông tin rằng hình ảnh đó là giả mạo nhưng các chuyên gia lại không tìm thấy bằng chứng video bị cắt ghép.

Làm thế nào để phát hiện deepfake?

Công nghệ máy học có thể được sử dụng để xác định những điểm sai khác trong chuyển động giữa đầu và mặt trong các video deepfake. Ngoài ra, công nghệ này còn có thể đào tạo các thuật toán xác định những thay đổi bất thường trong quá trình ghi âm.

Bộ Quốc phòng Mỹ, Google và Facebook đang tài trợ và hỗ trợ dữ liệu để các nhà nghiên cứu tìm ra giải pháp phát hiện deepfake hiệu quả.

Tương lai nào cho công nghệ Deepfake?

Sớm nhận ra được nguy cơ và những tác động to lớn của deepfake đối với xã hội, Reddit và Facebook đã cấm đăng tải những video kiểu này. Google, công ty sở hữu TensorFlow lại cho rằng hạn chế công cụ này sẽ khiến chính những nhà phát triển bị hại. Dù vậy, Hany Farid – giáo sư ngành khoa học máy tính tại Đại học Dartmouth cho rằng Google cùng những tập đoàn công nghệ khác “cần nghiêm túc hơn và nhận thức được sự nguy hiểm của công nghệ này khi nó được sử dụng như một vũ khí”.

Việc áp dụng các khái niệm AI để tạo ra ý tưởng mới và sản phẩm mới quả là một điều thú vị, nhưng cần cảnh giác với nó. Trong thực tế, không nên xuất bản bất kỳ một video giả mạo nào chỉ đề mục đích cho vui! Nó có thể khiến chúng ta gặp những rắc rối pháp lý và ảnh hưởng đến danh tiếng của bản thân. Deepfake mang trong mình cả những mặt tích cực và tiêu cực. Hãy là một người khôn ngoan, tỉnh táo để lựa chọn con đường đúng đắn!

Nguồn: Tổng hợp từ Internet.