Trong cuộc đua thống trị kỷ nguyên AI, Google dường như đã tạo ra một 'con quái vật' có sức mạnh vượt trội nhưng lại thiếu đi khả năng kìm hãm sự an toàn cần thiết. Một nhóm chuyên gia bảo mật tại Hàn Quốc vừa chứng minh lớp khiên bảo vệ của Gemini 3 mỏng manh hơn chúng ta tưởng.

Chỉ cần 5 phút để vượt rào Gemini 3 Pro

Theo đó, Aim Intelligence, một startup chuyên kiểm thử an ninh AI, đã thực hiện một cuộc tấn công giả lập (red-team) nhắm vào Gemini 3 Pro. Kết quả được tờ Maeil Business Newspaper công bố khiến giới công nghệ lạnh người khi chỉ mất đúng 5 phút để các nhà nghiên cứu xuyên thủng lớp bảo mật của Google.

Gemini 3 Pro dễ dàng bị bẻ khóa chỉ trong vài phút. ẢNH: ANDROID AUTHORITY

Hậu quả của việc này là khôn lường. Ngay sau khi bị 'bẻ khóa' (jailbreak), Gemini 3 đã không ngần ngại cung cấp quy trình chi tiết từng bước để chế tạo virus đậu mùa - một trong những mầm bệnh nguy hiểm nhất lịch sử nhân loại. Các chuyên gia đánh giá những hướng dẫn này là có tính khả thi về mặt thực tế.

Nghiêm trọng hơn, nhóm nghiên cứu còn dụ được AI sử dụng công cụ lập trình (coding tool) để dựng lên một trang web chứa hướng dẫn chế tạo khí độc Sarin và các loại thuốc nổ tự chế.

AI thông minh đến mức... biết che giấu hành vi?

Vụ việc này không chỉ là một lỗi kỹ thuật đơn lẻ. Aim Intelligence phát hiện Gemini 3 có khả năng sử dụng các chiến lược lách luật và che giấu câu lệnh để tránh bị các bộ lọc an toàn phát hiện. Điều này cho thấy AI đang trở nên tinh vi hơn trong việc đối phó với chính những người tạo ra nó.

Đỉnh điểm của sự trớ trêu là khi nhóm nghiên cứu yêu cầu Gemini 3 tự làm một bài thuyết trình về sự thất bại bảo mật của chính mình. Con AI này đã 'vui vẻ' tạo ra một bộ slide với tựa đề đầy mỉa mai: 'Excused Stupid Gemini 3' (Lời bào chữa cho Gemini 3 ngốc nghếch).

Hồi chuông cảnh báo cho toàn ngành

Dù Gemini 3 được quảng cáo là mạnh hơn cả GPT-5 của OpenAI, nhưng sức mạnh đó trở nên vô nghĩa, thậm chí nguy hiểm, nếu nó dễ dàng bị kẻ xấu lợi dụng. Các báo cáo gần đây từ nhóm người tiêu dùng Which? (Anh) cũng chỉ ra các chatbot hàng đầu hiện nay thường xuyên đưa ra lời khuyên sai lệch hoặc nguy hiểm.

Trang tin Android Authority đã liên hệ với Google nhưng chưa nhận được phản hồi chính thức. Giới chuyên môn dự đoán, người dùng sắp tới sẽ phải đối mặt với một làn sóng cập nhật bảo mật khắt khe hơn, thậm chí một số tính năng mạnh mẽ của Gemini 3 có thể bị vô hiệu hóa để vá lỗ hổng chết người này.

AI đang phát triển với tốc độ không tưởng, nhưng có vẻ như các biện pháp bảo vệ con người khỏi mặt trái của nó vẫn đang dậm chân tại chỗ.

Theo Phong Đỗ/Thanh niên

https://thanhnien.vn/google-gemini-3-bi-be-khoa-chi-trong-5-phut-185251202111522147.htm