AI đang mang đến nhiều cơ hội sáng tạo nội dung hơn mỗi ngày, giúp cộng đồng kể những câu chuyện mới mẻ và phong phú hơn. Nhưng mặt trái của công nghệ là nhiều kẻ gian đang lạm dụng để phát tán nội dung rác, đặc biệt ở lĩnh vực có tác động lớn đến an sinh xã hội như chính trị, tin tức thời sự, tư vấn tài chính và y khoa.

Chỉ trong ba tháng đầu năm nay, TikTok đã gỡ bỏ hơn 86 triệu tài khoản giả mạo. Để phát hiện và chống lại các nội dung độc hại được tạo ra bởi AI, nền tảng dùng chính AI để xác thực nội dung (Content Credentials). Đến nay, TikTok đã gắn nhãn nội dung AI cho hơn 3 tỉ video, bộ công cụ gắn nhãn dành cho nhà sáng tạo và công nghệ đánh dấu bản quyền ẩn (invisible watermarking technology).

Ứng dụng TikTok trên điện thoại

ẢNH: KHƯƠNG NHA

Ông Tom Varghese, Trưởng bộ phận Trí tuệ nhân tạo, Chính sách toàn cầu của TikTok, cho biết ngoài việc cung cấp cho các nhà sáng tạo nội dung công cụ để gắn nhãn AI, nền tảng đang sử dụng giải pháp xác thực nội dung của C2PA (Coalition for Content Provenance and Authenticity - Liên minh về Nguồn gốc và Tính xác thực của nội dung). 

Chứng chỉ này gắn siêu dữ liệu vào video, được dùng để nhận dạng và gắn nhãn các nội dung do AI tạo ra (AIGC). "Thông tin được mã hóa đến từng pixel vào trong hình ảnh hoặc video khiến kẻ gian khó có thể xóa bỏ các 'dấu vết" kỹ thuật số. Nếu có người dùng AI để tạo ra video rồi chia sẻ lên các nền tảng, chúng tôi có thể phát hiện nhận dạng và gắn nhãn ngay lập tức", Varghese giải thích về cách nền tảng đánh dấu và nhận diện AIGC.

Tuy nhiên, đại diện TikTok cũng lưu ý nền tảng này không có cơ chế phân phối riêng biệt dành cho nội dung truyền thống với nội dung được tạo bằng AI. "Nếu đó là nội dung có hại, chúng tôi sẽ xóa nó khỏi TikTok, bất kể nó được tạo ra bằng AI hay không", Varghese nói.

Liên quan đến vấn đề bản quyền, đại diện TikTok cho biết: "Nếu ai đó tạo ra nội dung bằng AI mà không có sự đồng ý của chủ thể liên quan, người dùng có thể báo cáo để yêu cầu gỡ bỏ". 

Cách nhận biết nội dung do AI tạo ra

Theo chuyên gia của TikTok, AI có thể phát triển nhanh nhưng vẫn để lại các chi tiết bất thường. Đầu tiên, người dùng hãy kiểm tra xem video đó có gắn nhãn được tạo ra bởi AI hay không. Sau đó, kiểm tra tiếp các chi tiết sau:

• Chuyển động không tự nhiên: Như chớp mắt, hơi thở hay biểu cảm của khuôn mặt nhân vật có bị cứng, thiếu mềm mại không? Thi thoảng AI sẽ khiến một số chi tiết bị chuyển động một cách đột ngột.
• Ánh sáng kỳ lạ: AI vẫn chưa mô phỏng đúng một số chi tiết liên quan đến ánh sáng, hướng đổ bóng.
• Chi tiết bất hợp lý: Người xem nên kiểm tra kỹ các chi tiết để phát hiện dấu hiệu bất hợp lý trong ảnh, video như nền bị mờ bất thường, chữ cái được ghép thành từ vô nghĩa. 
• Độ hoàn thiện quá cao: Một số AIGC có thể siêu thực đến mức khó tin như độ sắc nét của hình ảnh cũng là dấu hiệu nhận biết quan trọng.
• Âm thanh mang tính công nghiệp: Âm thanh được tạo bằng AI thường có giọng điệu đều đều, không có tiếng ồn xung quanh, thiếu cảm xúc.

• Phần lồng tiếng quá hoàn hảo: Tiếng nói, bình luận quá mượt mà, không bị vấp hoặc không khớp với nội dung của video cũng là dấu hiệu của AIGC.

Theo Khương Nha/Thanh niên
https://thanhnien.vn/phia-sau-cuoc-chien-chong-noi-dung-ai-rac-cua-tiktok-185260715223753483.htm