Thời đại bùng nổ của thông tin và kết nối trên mạng xã hội nói riêng và internet nói chung khiến nhiều người có thói quen chia sẻ mọi cảm xúc, sự kiện trong đời sống cá nhân lên không gian mạng mà không lường trước được các mối nguy từ việc làm này. Không chỉ đưa hình ảnh, video về bản thân lên mạng, nhiều người lớn còn đang tự cho mình quyền đăng nội dung chứa khuôn mặt hay giọng nói của trẻ em khi chưa được phép. Một khi những hình ảnh, video này xuất hiện trên mạng, bất kỳ ai tiếp cận cũng có thể lấy để sử dụng mà không gặp giới hạn nào.

Tháng 7 vừa qua, nhà mạng Deutsche Telekom (Đức) đã phát hành một clip quảng cáo giả định cho thấy hình ảnh của trẻ nhỏ sau khi bị đăng lên mạng có thể bị lạm dụng ra sao, dùng AI (trí tuệ nhân tạo) để phục vụ cho các mục đích khác nhau. Với tựa đề A Message from Ella (Lời nhắn nhủ từ Ella), clip dùng AI và Deepfake để tạo ra phiên bản trưởng thành từ hình ảnh và video Ella nhỏ tuổi do cha mẹ em đăng lên mạng.

"Ella người lớn" được AI tạo ra từ hình ảnh đăng trên mạng xã hội của cô bé Ella 9 tuổi trong video cảnh báo của Deutsche Telekom 

"AI Ella" có thể cử động, nói chuyện không khác người thật đã gây sốc cho cha mẹ khi nhìn thấy hình ảnh con gái mình trên màn ảnh lớn của rạp chiếu phim. Thậm chí, cô có thể khóc và biểu đạt y hệt con người.

"Con biết với cha mẹ, những bức hình này là kỷ niệm. Nhưng với người khác, đó là dữ liệu. Còn với con, đó có thể là sự khởi đầu của một tương lai khủng khiếp, tồi tệ, nơi danh tính của con có thể bị đánh cắp, con có thể phải ngồi tù vì những việc mình không hề làm... Những gì cha mẹ chia sẻ lên mạng là những dấu mốc kỹ thuật số sẽ theo con tới hết cuộc đời", nhân vật AI Ella chia sẻ.

Chỉ với một bức hình chia sẻ, AI có thể tạo ra phiên bản trưởng thành của cô bé 9 tuổi. Deepfake tách tiếng nói từ các video và biến thành giọng của người lớn. Các hình ảnh, video hoàn toàn có thể làm giả, dữ liệu về định danh cá nhân trở thành thông tin quý giá bị đánh cắp nhằm phục vụ cho mục đích phi pháp. Chưa dừng ở đó, kẻ xấu có thể dùng hình ảnh thu thập được trên mạng để cắt ghép, dùng AI tạo thành nội dung khiêu dâm trẻ em hay loạt ảnh chế giễu, bôi nhọ, xuyên tạc sự thật...

Christian Loefert, Trưởng phòng Truyền thông - Marketing của Deutsche Telekom cho biết: "Các nghiên cứu mới đây chỉ ra rằng trung bình một trẻ em 5 tuổi có khoảng 1.500 bức hình bị đăng lên mạng mà không có sự đồng ý, người đăng không ai khác chính là những người các em tin tưởng nhất: cha hoặc mẹ".

Theo The New Yorker, các chuyên gia ước tính đến 2030, có 2/3 số vụ đánh cắp danh tính xảy ra do tình trạng chia sẻ ảnh thiếu kiểm soát lên mạng xã hội. Deutsche Telekom cũng dẫn báo cáo cho thấy hơn 75% bậc cha mẹ hiện nay chia sẻ dữ liệu về con trên mạng xã hội. Trong khi đó, cứ 10 phụ huynh thì 8 người đang có thành viên mạng xã hội theo dõi tài khoản của họ mà chưa hề gặp ngoài đời.

Gần đây, sự phát triển của các công cụ AI ngày càng "bình dân hóa", tiếp cận với người dùng phổ thông qua hàng loạt ứng dụng trên thiết bị di động. Thay vì cẩn trọng với các chương trình này, nhiều người vô tư cung cấp hình ảnh cá nhân hoặc người thân để đăng lên mạng xã hội. Hành động này đang vô tình cung cấp cho các AI lượng lớn dữ liệu miễn phí để học về con người, từ cấu tạo khuôn mặt tới môi trường xung quanh.

Nhiều chuyên gia bảo mật lên tiếng cảnh báo trong mọi tình huống, kể cả là các trào lưu mới, người dùng vẫn nên thận trọng, không nên vì vài phút vui trên mạng xã hội mà đánh đổi dữ liệu cá nhân, đặc biệt là dữ liệu khuôn mặt của mình cũng như người thân.

Theo Anh Quân/ Thanh niên

https://thanhnien.vn/rui-ro-tre-em-thanh-nan-nhan-cua-ai-khi-cha-me-dang-hinh-len-mang-185230911090311966.htm