Theo Popular Mechanics, đã có nhiều lo ngại xảy ra, và đó là lý do khiến giới phân tích đặt trí tuệ nhân tạo tổng hợp (AGI) lên đầu trong danh sách các mối quan tâm về sự rủi ro cho thế giới. Nghị sĩ Julian Hill của quốc hội Úc cho rằng nếu mọi người bắt đầu suy nghĩ, sẽ không mất nhiều thời gian để nhận ra những rủi ro đột phá và thảm khốc từ AGI chưa được thuần hóa là "có thật, hợp lý và dễ hình dung". Theo ông, AGI có khả năng cách mạng hóa thế giới của chúng ta theo những cách mà chúng ta chưa thể tưởng tượng được, nhưng nếu AGI vượt qua trí thông minh của con người, nó có thể gây ra tác hại đáng kể cho nhân loại nếu các mục tiêu và động cơ của nó không phù hợp với mục tiêu và động cơ mà chúng ta đặt ra.

Cần có biện pháp kiểm soát sự phát triển của trí tuệ nhân tạo để bảo vệ tương lai của loài người AFP

Ông Hill cho biết thêm, khi các cảnh báo về khả năng của AI ngày càng gia tăng, việc con người thiếu kiểm soát cho thấy AGI thực sự là mối quan tâm chính, đặc biệt nếu "một kẻ xấu có thể khai thác AGI để thực hiện các hành động hủy diệt hàng loạt".

Hill cho biết quân đội đang xem AGI như một công cụ chiến tranh. Cụ thể, một kẻ thù kích hoạt AGI có thể nhằm vào Úc hoặc gây ra sự hủy diệt ở cấp độ xã hội mà không bị hạn chế bởi các quy tắc đã được thống nhất trên toàn cầu.

Để nhấn mạnh quan điểm của mình về sức mạnh ngày càng tăng của AI, Hill đã minh họa bằng ChatGPT, nơi AI đang hạn chế các kỹ năng tư duy phản biện trong giáo dục khi ngày càng có nhiều học sinh chuyển sang dùng thuật toán để làm bài tập trên lớp.

Với sự gia tăng liên tục và nhanh chóng của trí tuệ nhân tạo, điều quan trọng là cần có biện pháp kiểm soát công nghệ để bảo vệ con người và trí thông minh của con người. Sự phát triển không ngừng của công nghệ có thể gây ra nhiều hậu quả không lường trước được. Đó chính là thông điệp mà ông Hill muốn truyền tải khi nói về AGI, và chúng ta cần phải có hành động ngay từ bây giờ để nhân loại không phụ thuộc vào nó.

Theo Kiến Văn/ Thanh Niên

https://thanhnien.vn/tri-tue-nhan-tao-chua-duoc-thuan-hoa-co-the-huy-diet-loai-nguoi-185230209094915844.htm