Theo TechSpot, ByteDance - tập đoàn công nghệ Trung Quốc đứng sau TikTok, vừa công bố OmniHuman-1 - một hệ thống deepfake có khả năng tái tạo hình ảnh con người với độ chân thực đáng kinh ngạc. Những video do OmniHuman-1 tạo ra có thể đánh lừa người xem thông thường, làm mờ ranh giới giữa thật và giả trong nội dung số. 

Nhiều video do OmniHuman-1 tạo ra bao gồm Albert Einstein, Jensen Huang và nhiều nhân vật khác, minh họa khả năng deepfake chân thực tới mức đáng kinh ngạc

Khác với những mô hình deepfake trước đây, OmniHuman-1 chỉ cần một bức ảnh và một đoạn âm thanh để tạo ra video hoàn chỉnh. Người dùng có thể điều chỉnh tỷ lệ khung hình, bố cục cơ thể, hoặc thậm chí chỉnh sửa các cử động trong video có sẵn. AI (trí tuệ nhân tạo) này có thể thay đổi động tác tay và cử chỉ với độ chính xác cao, giúp sản phẩm trông tự nhiên hơn. Tuy nhiên, một số chi tiết vẫn chưa hoàn hảo, chẳng hạn như tư thế cầm ly rượu không tự nhiên hoặc bàn tay xoay vặn kỳ lạ trong một video mô phỏng bài giảng của Albert Einstein.

Mô hình này được huấn luyện trên 18.700 giờ video, sử dụng phương pháp "omni-conditions" để học hỏi từ nhiều nguồn dữ liệu khác nhau, bao gồm văn bản, âm thanh và chuyển động cơ thể.

Dù đạt được những tiến bộ kỹ thuật, công nghệ deepfake cũng đặt ra nhiều rủi ro nghiêm trọng. Những năm gần đây, deepfake đã bị lạm dụng để thao túng thông tin, lừa đảo tài chính và tấn công danh tiếng cá nhân. Trong kỳ bầu cử năm 2024, nhiều video deepfake được sử dụng để gây hiểu lầm cho cử tri. Năm ngoái, các vụ lừa đảo tài chính liên quan đến deepfake khiến hàng tỉ USD bị đánh cắp, trong đó có một trường hợp kẻ gian mạo danh diễn viên Brad Pitt để lừa một phụ nữ chuyển khoản 850.000 USD.

Lo ngại trước các nguy cơ này, nhiều chuyên gia về đạo đức AI đã kêu gọi xây dựng quy định kiểm soát deepfake. Một số bang của Mỹ đã ban hành luật chống deepfake độc hại, nhưng vẫn chưa có khung pháp lý liên bang toàn diện. California từng đề xuất dự luật cho phép tòa án buộc gỡ bỏ deepfake và xử phạt hành vi phát tán, nhưng quá trình lập pháp vẫn gặp nhiều trở ngại.

Hiện tại, ByteDance chưa công bố kế hoạch phát hành OmniHuman-1, nhưng một bài nghiên cứu về mô hình này đã được công bố, cho thấy tiềm năng và nguy cơ của công nghệ deepfake ngày càng phát triển.

Theo Khải Minh/ Thanh niên

https://thanhnien.vn/cong-cu-ai-deepfake-moi-cua-bytedance-gay-nhieu-lo-ngai-18525020521585617.htm