YouTube vừa thông báo về kế hoạch phát triển công nghệ nhằm phát hiện nội dung do AI tạo ra, sử dụng khuôn mặt hoặc giọng hát của người khác (deepfake) mà không có sự cho phép. Theo dự kiến, các chương trình thử nghiệm cho công cụ phát hiện giọng nói sẽ khởi động vào đầu năm 2025.

Công nghệ phát hiện khuôn mặt sẽ cho phép người dùng ở các lĩnh vực khác nhau như diễn viên, ca sĩ, vận động viên cho đến các nhà sáng tạo "phát hiện và quản lý" những nội dung sử dụng hình ảnh khuôn mặt của họ do AI tạo ra. YouTube khẳng định các công cụ này sẽ giúp người dùng xác định, theo dõi và đưa ra các biện pháp xử lý đối với các video sử dụng phiên bản deepfake của những người dùng này. Tuy nhiên, thời điểm phát hành chính thức của công nghệ phát hiện khuôn mặt vẫn chưa được công bố.

YouTube tích hợp AI vào hệ thống để bảo vệ 2,7 tỉ người dùng nền tảng này 

Công nghệ phát hiện giọng hát do AI tạo ra sẽ được tích hợp vào hệ thống Content ID, một hệ thống bảo vệ bản quyền tự động. Công cụ này sẽ giúp các đối tác của YouTube phát hiện và quản lý những nội dung sử dụng phiên bản giọng hát tổng hợp, được tạo bởi AI.

Amjad Hanif, Phó chủ tịch phụ trách sản phẩm sáng tạo của YouTube, nhấn mạnh: "Khi AI phát triển, chúng tôi tin rằng nó nên giúp nâng cao khả năng sáng tạo của con người, chứ không thay thế nó. Chúng tôi cam kết làm việc với các đối tác để đảm bảo những tiến bộ trong tương lai sẽ khuếch đại tiếng nói của họ và chúng tôi sẽ tiếp tục phát triển các biện pháp bảo vệ để giải quyết các mối lo ngại và đạt được mục tiêu chung".

Cùng với sự phát triển mạnh mẽ của trí tuệ nhân tạo, vấn đề bảo vệ bản quyền và quyền cá nhân trong môi trường số đang trở nên cấp thiết. Những nỗ lực của YouTube trong việc phát triển các công cụ nhận diện nội dung deepfake là một bước tiến đáng chú ý, nhằm bảo vệ các nhà sáng tạo và nghệ sĩ khỏi việc bị lạm dụng hình ảnh và giọng nói trong các video không được cấp phép.

Theo Khải Minh/ Thanh niên

https://thanhnien.vn/youtube-phat-trien-cong-cu-phat-hien-deepfake-khuon-mat-va-giong-noi-185240908235423613.htm