Theo Techspot, nền tảng mạng xã hội X (trước đây là Twitter) vừa công bố loạt thay đổi quan trọng nhằm siết chặt kiểm soát hoạt động tạo và chỉnh sửa ảnh bằng công cụ AI Grok. Theo cập nhật từ đội ngũ an toàn của nền tảng này, mọi nỗ lực tạo ảnh người thật trong trang phục gợi cảm như đồ bơi hoặc nội y đều sẽ bị chặn hoàn toàn - áp dụng cho cả người dùng miễn phí lẫn trả phí.

Động thái này diễn ra sau khi nhiều người dùng lên án mạnh mẽ các nội dung deepfake lan truyền trên nền tảng, trong đó có các trường hợp chỉnh sửa ảnh người nổi tiếng theo hướng khiêu dâm. Không chỉ cấm hành vi chỉnh sửa ảnh nhạy cảm, X còn chuyển quyền truy cập vào tính năng tạo và chỉnh sửa hình ảnh Grok thành đặc quyền trả phí, với kỳ vọng tăng cường trách nhiệm và truy vết người dùng trong trường hợp vi phạm.

Khả năng tạo ảnh của Grok và chính sách kiểm duyệt lỏng lẻo đã khiến nền tảng đối mặt chỉ trích gay gắt. ẢNH: CHỤP MÀN HÌNH

Cùng với đó, X tuyên bố sẽ thực hiện các biện pháp xử lý nghiêm khắc đối với các hành vi vi phạm, đặc biệt là những nội dung liên quan đến bóc lột tình dục trẻ em, ảnh khỏa thân không đồng thuận hoặc mang tính quấy rối. Những vi phạm ở mức độ nghiêm trọng sẽ bị gỡ bỏ ngay lập tức và các tài khoản liên quan có thể bị khóa vĩnh viễn, đồng thời bị báo cáo đến cơ quan chức năng.

X cũng áp dụng cơ chế chặn theo khu vực đối với việc tạo ảnh người thật trong các loại trang phục bị coi là nhạy cảm ở một số quốc gia. Đây là nỗ lực nhằm tuân thủ quy định pháp luật địa phương, đặc biệt trong bối cảnh nhiều quốc gia đang siết chặt kiểm soát nội dung AI tạo ra. Trong tuyên bố mới nhất, X nhấn mạnh rằng bất kỳ nội dung nào, dù do AI tạo ra hay do con người sản xuất, đều phải tuân thủ đầy đủ các quy tắc của nền tảng. Vi phạm có thể dẫn đến việc xóa bài, đình chỉ tài khoản và hợp tác với cơ quan chức năng khi cần thiết.

Theo Khải Minh/Thanh niên

https://thanhnien.vn/tinh-nang-tao-anh-ai-nhay-cam-tren-grok-bi-cam-hoan-toan-185260115233951926.htm