Tháng trước, chương trình The Last Dance của ESPN phát video của State Farm mà sau đó trở thành một trong những quảng cáo được thảo luận nhiều nhất trong lịch sử. Quảng cáo đó trích dẫn một video từ năm 1998, trong đó một chuyên gia phân tích của ESPN dự đoán chính xác về những gì sẽ xảy ra trong năm 2020.

Khi biết đó chỉ là nội dung được tạo từ AI, không ít người đã ngạc nhiên và thích thú. Tuy nhiên, theo Forbes, đáng lẽ ra, người xem nên cảm thấy lo ngại.

Quảng cáo của State Farm chỉ là ví dụ về một hiện tượng mới nhưng đầy nguy hiểm trong lĩnh vực trí tuệ nhân tạo: deepfake. Công nghệ này cho phép bất cứ ai với máy tính và kết nối Internet có thể tạo ảnh, giọng nói và video sinh động như thật về ai đó đang nói hoặc làm gì đó mà trên thực tế họ không hề hành động như vậy.

Kết hợp giữa deep learning (học sâu) và fake (giả mạo), deepfake bắt đầu nổi lên từ cuối 2017 nhờ thuật toán GAN. Một số video deepfake thu hút hàng triệu lượt xem, phần nào giúp mọi người hiểu hơn về công nghệ mới này, như video Mark Zuckerberg thừa nhận mục tiêu của Facebook là khai thác người dùng, hay video Barack Obama bình phẩm với những lời lẽ thô tục về Doanld Trump... Đầu năm 2019, một nhóm hacker dùng công cụ AI nhái giọng CEO của một công ty có trụ sở Đức để gọi điện cho Giám đốc chi nhánh ở Anh, đề nghị người này chuyển gấp 243.000 USD cho nhà cung ứng. Vị giám đốc nhận ra giọng quen thuộc của "sếp" nên không hề nghi ngờ và thực hiện chuyển tiền.

Thuật toán GAN giúp tạo ra những hình ảnh deepfake, không chỉ mang tính đùa vui mà còn có thể gây bất ổn chính trị. Ảnh: AFP.

Nội dung deepfake đang được chia sẻ trực tuyến với tốc độ nhanh chóng. Theo công cụ theo dõi Deeptrace, đầu năm 2019 có khoảng 7.964 video deepfake trên mạng, nhưng 9 tháng sau, con số này tăng lên 14.679.

"Tháng 1/2019, deepfake vẫn nhiều lỗi. Cuối năm đó, tôi chưa từng thấy thứ gì cải tiến nhanh như deepfake. Và đó mới chỉ là phần nổi của tảng băng", Hany Farid, chuyên gia về deepfake tại UC Berkeley nói. Ông cho rằng trong những tháng tới, deepfake sẽ phát triển từ một hiện tượng lạ trên Internet thành một thế lực xã hội và chính trị có sức tàn phá lớn và mọi người cần phải chuẩn bị trước cho điều này.

Khi 'mắt thấy tai nghe' không còn đúng

Thành ngữ có câu "trăm nghe không bằng một thấy". Với deepfake, "thấy" rồi cũng chưa chắc có thể tin.

Nhiều người dùng Internet vẫn chủ quan, cho rằng deepfake chưa hoàn thiện và họ có thể dễ dàng phân biệt với những video thực. Tuy nhiên, mục đích của một số người khi tung ra video deepfake không phải để phô diễn khả năng của công nghệ mới, mà là để gây xáo trộn, hoang mang, khiến người xem không biết đâu là thật, đâu là giả, từ đó có thể thay đổi quan điểm, tư tưởng của nhiều người.

Theo Deeptrace, tính đến tháng 9/2019, 96% các video deepfake được chia sẻ trên mạng là về nội dung khiêu dâm, trong đó khuôn mặt của nhiều người nổi tiếng bị gắn vào các hình ảnh khỏa thân. Tuy nhiên, từ những góc tối trên web, deepfake đang lan sang lĩnh vực chính trị với nguy cơ lớn hơn.

Hãy hình dung video deepfake về một chính trị gia đang thực hiện hành vi hối lộ hay xâm hại tình dục bị phát tán ngay trước cuộc bầu cử. Thông thường, các tin xấu và gây tranh cãi lan rất nhanh, nhưng các tin đính chính sau đó lại ít người biết tới. Khi người xem không chắc chắn về những gì họ trông thấy, hậu quả có thể mang tính hủy diệt.

"Ngày xưa, nếu muốn đe dọa nước Mỹ, cần có 10 tàu sân bay, vũ khí hạt nhân và tên lửa tầm xa", Thượng nghị sĩ Marco Rubio nhận xét. "Ngày nay, tất cả những gì bạn cần là khả năng sản xuất một video giả mạo nhưng trông như thật để tác động tới kết quả bầu cử, đẩy nước Mỹ vào cuộc khủng hoảng và làm suy yếu chúng ta".

Các chuyên gia công nghệ đồng ý với quan điểm này và lo ngại người dùng sẽ có xu hướng hoài nghi mọi video họ xem, kể cả thông tin chính thống. Hani Farid, một trong những chuyên gia hàng đầu thế giới về deepfake, nói: "Nếu bạn không còn tin những video, những đoạn âm thanh, những hình ảnh mà bạn xem, đó thực sự là nguy cơ an ninh quốc gia nghiêm trọng".

Một ví dụ cho quan điểm này là sự kiện ở Gabon cuối năm 2018. Khi đó, Tổng thống Ali Bongo của nước này đã không xuất hiện trước công chúng vài tháng. Nhiều thông tin lan truyền rằng ông rất yếu, thậm chí đã chết. Nhằm dập tắt tin đồn này, chính phủ cho biết Tổng thống sẽ đọc diễn văn chúc mừng năm mới. Trong video đó, Ali Bongo xuất hiện trông cứng nhắc với biểu hiện nét mặt thiếu tự nhiên. Video lập tức gây nghi ngờ và tranh cãi trên mạng xã hội. Các nhóm chống đối khẳng định video thực chất là sản phẩm của deepfake và Tổng thống đã qua đời. Hiện nay, giới chuyên gia vẫn chưa thể khẳng định video đó có giả mạo hay không, dù đa số tin là thật. Bằng chứng là Bongo đã xuất hiện nhiều lần trước công chúng sau đó và vẫn đang điều hành Gabon.

Các chuyên gia lo ngại deepfake sẽ trở thành vũ khí tấn công với mục đích chính trị tại các nước có dân trí thấp, chưa trang bị đủ kiến thức về kỹ thuật số. Thông tin cố tình được làm cho sai lệch có thể dẫn đến biểu tình, bạo động, gây bất ổn. Viện nghiên cứu Brookings tổng hợp về viễn cảnh u ám từ deepfake: "Bóp méo các bài diễn thuyết, làm xói mòn niềm tin, suy yếu báo chí, chia rẽ xã hội và gây ra những thiệt hại khó có thể khắc phục tới danh tiếng của các cá nhân".

Cuộc chiến chống deepfake được ví như trò chơi "mèo vờn chuột", không có hồi kết. Một giải pháp được nhiều nước cân nhắc là đưa ra luật rằng việc tạo và phát tán nội dung deepfake là bất hợp pháp. Tháng 10/2019, bang California ban hành quy định rằng việc tạo hoặc chia sẻ video, hình ảnh, giọng nói của các chính trị gia bằng công nghệ deepfake trước cuộc bầu cử là trái luật.

Tuy nhiên, các chuyên gia nhận định, giải pháp trên vẫn bất khả thi do tính ẩn danh và không biên giới của Internet. Trong giai đoạn này, cách hiệu quả nhất là các nền tảng công nghệ lớn như Facebook, Google và Twitter phải hành động để hạn chế sự lan truyền của những video giả mạo và gây hại.

Theo VnExpress

https://vnexpress.net/bong-ma-deepfake-dang-lan-ra-doi-thuc-4105835.html