213
/
175984
Công cụ AI deepfake mới của ByteDance gây nhiều lo ngại
cong-cu-ai-deepfake-moi-cua-bytedance-gay-nhieu-lo-ngai
news

Công cụ AI deepfake mới của ByteDance gây nhiều lo ngại

Thứ 5, 06/02/2025 | 15:51:00
1,993 lượt xem

ByteDance vừa ra mắt OmniHuman-1, hệ thống deepfake có thể tạo video giả sống động như thật, đặt ra nhiều lo ngại về an ninh thông tin và nguy cơ lạm dụng công nghệ.

Theo TechSpot, ByteDance - tập đoàn công nghệ Trung Quốc đứng sau TikTok, vừa công bố OmniHuman-1 - một hệ thống deepfake có khả năng tái tạo hình ảnh con người với độ chân thực đáng kinh ngạc. Những video do OmniHuman-1 tạo ra có thể đánh lừa người xem thông thường, làm mờ ranh giới giữa thật và giả trong nội dung số. 

Nhiều video do OmniHuman-1 tạo ra bao gồm Albert Einstein, Jensen Huang và nhiều nhân vật khác, minh họa khả năng deepfake chân thực tới mức đáng kinh ngạc

Khác với những mô hình deepfake trước đây, OmniHuman-1 chỉ cần một bức ảnh và một đoạn âm thanh để tạo ra video hoàn chỉnh. Người dùng có thể điều chỉnh tỷ lệ khung hình, bố cục cơ thể, hoặc thậm chí chỉnh sửa các cử động trong video có sẵn. AI (trí tuệ nhân tạo) này có thể thay đổi động tác tay và cử chỉ với độ chính xác cao, giúp sản phẩm trông tự nhiên hơn. Tuy nhiên, một số chi tiết vẫn chưa hoàn hảo, chẳng hạn như tư thế cầm ly rượu không tự nhiên hoặc bàn tay xoay vặn kỳ lạ trong một video mô phỏng bài giảng của Albert Einstein.

Mô hình này được huấn luyện trên 18.700 giờ video, sử dụng phương pháp "omni-conditions" để học hỏi từ nhiều nguồn dữ liệu khác nhau, bao gồm văn bản, âm thanh và chuyển động cơ thể.

Dù đạt được những tiến bộ kỹ thuật, công nghệ deepfake cũng đặt ra nhiều rủi ro nghiêm trọng. Những năm gần đây, deepfake đã bị lạm dụng để thao túng thông tin, lừa đảo tài chính và tấn công danh tiếng cá nhân. Trong kỳ bầu cử năm 2024, nhiều video deepfake được sử dụng để gây hiểu lầm cho cử tri. Năm ngoái, các vụ lừa đảo tài chính liên quan đến deepfake khiến hàng tỉ USD bị đánh cắp, trong đó có một trường hợp kẻ gian mạo danh diễn viên Brad Pitt để lừa một phụ nữ chuyển khoản 850.000 USD.

Lo ngại trước các nguy cơ này, nhiều chuyên gia về đạo đức AI đã kêu gọi xây dựng quy định kiểm soát deepfake. Một số bang của Mỹ đã ban hành luật chống deepfake độc hại, nhưng vẫn chưa có khung pháp lý liên bang toàn diện. California từng đề xuất dự luật cho phép tòa án buộc gỡ bỏ deepfake và xử phạt hành vi phát tán, nhưng quá trình lập pháp vẫn gặp nhiều trở ngại.

Hiện tại, ByteDance chưa công bố kế hoạch phát hành OmniHuman-1, nhưng một bài nghiên cứu về mô hình này đã được công bố, cho thấy tiềm năng và nguy cơ của công nghệ deepfake ngày càng phát triển.

Theo Khải Minh/ Thanh niên

https://thanhnien.vn/cong-cu-ai-deepfake-moi-cua-bytedance-gay-nhieu-lo-ngai-18525020521585617.htm

  • Từ khóa

Google giúp cảnh báo sớm động đất nhờ vào 2 tỉ điện thoại thông minh toàn cầu

Sau trận động đất mạnh ngoài khơi Nga gây cảnh báo sóng thần ở Nhật Bản và một loạt nước, việc cảnh báo sớm động đất tiếp tục là chủ đề nóng. Lúc này xuất...
17:28 - 01/08/2025
536 lượt xem

Nga cấm quảng cáo mạng riêng ảo, cấm tìm kiếm nội dung cực đoan trên mạng

Ngày 31-7, Tổng thống Nga Vladimir Putin đã ký ban hành một đạo luật mới, quy định xử phạt tài chính đối với người dùng Internet tìm kiếm các nội dung...
16:02 - 01/08/2025
536 lượt xem

Google nâng cấp AI Mode, giúp học sinh học tốt hơn

Google cũng đang thử nghiệm tính năng mới cho phép chia sẻ camera thời gian thực trong AI Mode, dựa trên nền tảng Tìm kiếm trực tiếp (Search Live).
08:43 - 01/08/2025
760 lượt xem

Google miễn phí không giới hạn mô hình Gemini tốt nhất

Mặc dù vậy, không phải đối tượng người dùng nào cũng có thể nhận được miễn phí mô hình Gemini tốt nhất từ Google.
07:06 - 01/08/2025
794 lượt xem

Microsoft đạt lợi nhuận hơn 27 tỷ USD nhờ bùng nổ AI và điện toán đám mây

Theo báo cáo tài chính của hãng, Microsoft đạt lợi nhuận 27,2 tỷ USD trên tổng doanh thu 76,4 tỷ USD; trong đó mảng kinh doanh đám mây thông minh đóng góp...
16:45 - 31/07/2025
1,112 lượt xem