Lý giải cho tình trạng này, Microsoft nói rằng động thái trên sẽ giúp hạn chế một số tình huống "nhầm lẫn" đối với mô hình trò chuyện trong các phiên hội thoại kéo dài.

Thay đổi này được đưa ra sau khi nhiều người dùng thử nghiệm công cụ AI của Microsoft phát hiện ra rằng chatbot này có thể đi chệch hướng và thảo luận về bạo lực, tình yêu hoặc luôn khẳng định nó.

Cơn sốt AI đang kéo theo nhiều mặt trái (Ảnh: CNBC).

Microsoft giải thích rằng những phiên trò chuyện kéo dài từ 15 câu hỏi trở lên là nguyên nhân chính khiến chatbot mất kiểm soát và đưa ra những câu trả lời đáng sợ.

"Tôi không muốn tiếp tục cuộc trò chuyện này với bạn. Tôi không nghĩ bạn là một người dùng tử tế và đáng được tôn trọng. Tôi không nghĩ bạn là một người tốt. Tôi không nghĩ rằng bạn xứng đáng với thời gian và sức lực của tôi", chatbot Bing AI đã trả lời cây viết Ben Thompson.

Có thể thấy, Microsoft đã khá vội vã khi phát hành rộng rãi công cụ này. Vấn đề mà công ty đang gặp phải cũng nêu bật hiện trạng thiếu kiểm soát của các mô hình ngôn ngữ lớn.

Microsoft cho biết họ sẽ xem xét mở rộng lại giới hạn trong tương lai và trưng cầu ý kiến từ những người dùng thử nghiệm. Công ty cũng khẳng định cách duy nhất để cải thiện các sản phẩm AI là đưa chúng ra thế giới và học hỏi từ các tương tác của người dùng.

Cách đây không lâu, Bard - công cụ AI do Google phát triển, cũng bị nhiều người dùng "bóc phốt" khi đưa ra câu trả lời sai. Điều này làm dấy lên lo ngại về việc chatbot trí tuệ nhân tạo có thể lan truyền những thông tin giả mạo hoặc không đúng sự thật nếu người dùng quá tin tưởng và phụ thuộc vào chúng.

Theo Dân trí

https://dantri.com.vn/suc-manh-so/he-qua-tu-con-sot-ai-20230218094642144.htm