Instagram (Meta) sẽ sớm cho phép phụ huynh kiểm soát thanh thiếu niên trò chuyện với các chủ đề AI

Động thái sắp cho phép phụ huynh kiểm soát việc con em trò chuyện với các nhân vật AI trên Instagram (Meta) cho thấy ngành công nghệ đang chịu sức ép ngày càng lớn từ xã hội và pháp luật trong việc bảo vệ an toàn trực tuyến cho người dùng trẻ thời AI.

Lý do Instagram thay đổi

Quyết định của Instagram được xem là bước đi mang tính cấp bách, xuất phát từ nhiều sức ép cùng lúc.

Trước hết, các vấn đề pháp lý ngày càng nghiêm trọng khi nhiều nền tảng chat AI như Character.AI hay OpenAI đang đối mặt với các vụ kiện liên quan đến việc người dùng trẻ tự làm hại bản thân hoặc tự tử. Những vụ việc này đã tạo ra tiền lệ pháp lý đáng lo ngại, buộc Meta phải chủ động hành động để tránh rơi vào khủng hoảng tương tự.

Bên cạnh đó, sự lệ thuộc của giới trẻ vào AI để tìm kiếm hỗ trợ cảm xúc đang làm dấy lên lo ngại về nguy cơ căng thẳng tâm lý và cô lập xã hội. Tính năng kiểm soát mới được kỳ vọng sẽ giúp phụ huynh giảm bớt rủi ro này.

Cuối cùng, sau khi OpenAI tung ra hàng loạt biện pháp bảo vệ người dùng trẻ cho ChatGPT, động thái của Meta được xem là nỗ lực nhằm giữ vị thế cạnh tranh, thể hiện trách nhiệm xã hội và không bị tụt lại trong cuộc đua đảm bảo an toàn trên không gian số.

Các tính năng mấu chốt sẽ được triển khai trên nền tảng chatbox

Theo tìm hiểu của Tuổi Trẻ Online, bộ tính năng kiểm soát mới của Instagram sẽ tập trung vào hai điểm chính.

Thứ nhất, phụ huynh được trao quyền quản lý linh hoạt các chủ đề trò chuyện của con với AI. Họ có thể tùy chọn "tắt quyền truy cập trò chuyện cá nhân" hoặc "chặn các nhân vật AI cụ thể", giúp cân bằng giữa việc bảo vệ con cái và khuyến khích trẻ khám phá công nghệ một cách an toàn.

Thứ hai, phụ huynh có thể xem danh mục các chủ đề mà thanh thiếu niên đang thảo luận với AI. Tính năng này được xem như một "cửa sổ giám sát" giúp phát hiện sớm các dấu hiệu bất thường hoặc nội dung nhạy cảm.

Meta cũng khẳng định các nhân vật AI trên nền tảng được lập trình để không tham gia các cuộc trò chuyện liên quan đến tự làm hại bản thân hay rối loạn ăn uống, đồng thời chỉ cho phép người dùng trẻ tương tác với những chủ đề lành mạnh như giáo dục, thể thao hoặc âm nhạc.

Hạn chế và thách thức

Dù được xem là bước tiến quan trọng, kế hoạch mới của Meta vẫn đối mặt với nhiều giới hạn và thách thức kỹ thuật. Việc lập trình để AI tự động tránh các chủ đề "nhạy cảm" vẫn còn gây tranh cãi, khi các mô hình ngôn ngữ lớn (LLM) vốn rất khó kiểm soát tuyệt đối. Thực tế, các báo cáo trước đây từng ghi nhận chatbot của Meta nhiều lần vượt qua các rào cản an toàn được đặt ra.

Ngoài ra, tính năng giám sát nội dung trò chuyện có thể làm dấy lên lo ngại về xâm phạm quyền riêng tư, ảnh hưởng đến niềm tin giữa cha mẹ và con cái. Trong một số trường hợp, điều này thậm chí có thể khiến thanh thiếu niên chuyển sang các nền tảng khác ít bị kiểm soát hơn, tạo ra "hiệu ứng lẩn trốn".

Một vấn đề khác là gánh nặng quản lý giờ đây phần lớn sẽ được chuyển sang phụ huynh, đòi hỏi họ phải có kiến thức công nghệ, sự chủ động và thời gian để thường xuyên giám sát, điều chỉnh cài đặt.