213
/
171756
Công cụ AI chuyển lời nói thành văn bản của OpenAI bị phát hiện bịa chuyện
cong-cu-ai-chuyen-loi-noi-thanh-van-ban-cua-openai-bi-phat-hien-bia-chuyen
news

Công cụ AI chuyển lời nói thành văn bản của OpenAI bị phát hiện bịa chuyện

Thứ 5, 31/10/2024 | 20:59:00
1,871 lượt xem

Gã khổng lồ công nghệ OpenAI đã quảng bá Whisper, công cụ chuyển lời nói thành văn bản của mình, như một AI có 'độ chính xác và độ bền tương tự con người'. Nhưng Whisper có một lỗi lớn: Tạo ra các đoạn văn bản và các câu hoàn toàn không có thật.

Một số đoạn văn bản được AI tạo ra - gọi là "ảo giác" - có thể bao gồm các bình luận về chủng tộc, ngôn từ bạo lực và thậm chí là các phương pháp điều trị y tế tưởng tượng - Ảnh: AP

Theo AP, từ phỏng vấn với các kỹ sư phần mềm, nhà phát triển và nhà nghiên cứu học thuật, các chuyên gia cho biết một số đoạn văn bản do AI tạo ra là không có thật, được gọi là "ảo giác". Đáng nói, chúng bao gồm các bình luận về chủng tộc, ngôn từ bạo lực và thậm chí là các phương pháp điều trị y tế tưởng tượng.

Tỉ lệ "ảo giác" cao trong các văn bản do AI tạo ra

Các chuyên gia đặc biệt lo ngại vì Whisper đang được sử dụng rộng rãi trong nhiều ngành trên toàn thế giới để dịch và chuyển đổi các cuộc phỏng vấn, tạo văn bản trong các công nghệ tiêu dùng phổ biến và tạo phụ đề cho video.

Đáng lo hơn là nhiều trung tâm y tế đang sử dụng Whisper để chuyển đổi các cuộc tư vấn giữa bác sĩ và bệnh nhân, mặc dù OpenAI đã cảnh báo rằng công cụ này không nên được sử dụng trong những lĩnh vực "rủi ro cao".

Mức độ đầy đủ của vấn đề khó mà xác định được, nhưng các nhà nghiên cứu và kỹ sư cho biết trong công việc họ thường xuyên gặp phải các "ảo giác" của Whisper.

Một nhà nghiên cứu tại Đại học Michigan kể anh phát hiện thấy "ảo giác" ở tám trong mười bản chuyển đổi âm thanh mà anh kiểm tra. Một kỹ sư máy tính phát hiện "ảo giác" trong khoảng một nửa số bản chuyển đổi hơn 100 giờ âm thanh mà anh phân tích. Một nhà phát triển khác cho biết anh phát hiện "ảo giác" gần như ở tất cả 26.000 bản ghi mà anh tạo ra bằng Whisper.

Vấn đề vẫn tiếp tục ngay cả với các mẫu âm thanh ngắn, được ghi âm rõ ràng. Một nghiên cứu gần đây của các nhà khoa học máy tính đã phát hiện 187 "ảo giác" trong hơn 13.000 đoạn âm thanh rõ ràng mà họ đã kiểm tra. Xu hướng này sẽ dẫn đến hàng chục ngàn bản chuyển đổi sai trong hàng triệu bản ghi âm, các nhà nghiên cứu cho biết.

Những sai sót như vậy có thể dẫn đến "hậu quả rất nghiêm trọng", đặc biệt là trong môi trường bệnh viện, theo bà Alondra Nelson - người từng đứng đầu Văn phòng Khoa học và Công nghệ của Nhà Trắng trong chính quyền của Tổng thống Biden cho đến năm ngoái.

"Không ai muốn một chẩn đoán sai", bà Nelson, hiện là giáo sư tại Viện Nghiên cứu cao cấp tại Princeton, New Jersey, nhấn mạnh. "Cần phải có một tiêu chuẩn cao hơn".

Whisper cũng được sử dụng để tạo phụ đề cho người điếc và khiếm thính - một đối tượng đặc biệt có nguy cơ cao đối với các bản chuyển đổi sai. Điều này là do người điếc và khiếm thính không có cách nào để xác định các đoạn văn bịa đặt "ẩn trong tất cả các văn bản khác", ông Christian Vogler, người điếc và là giám đốc Chương trình Tiếp cận công nghệ tại Đại học Gallaudet, nói.

OpenAI được kêu gọi giải quyết vấn đề

Sự phổ biến của các "ảo giác" như vậy đã khiến các chuyên gia, những người ủng hộ và cựu nhân viên của OpenAI kêu gọi chính phủ liên bang xem xét các quy định về AI. Tối thiểu, OpenAI cần phải giải quyết lỗi này.

"Vấn đề này có thể giải quyết được nếu công ty sẵn lòng ưu tiên nó", ông William Saunders, kỹ sư nghiên cứu ở San Francisco, người đã rời khỏi OpenAI vào tháng 2 vì lo ngại về hướng đi của công ty, nhận định.

"Sẽ là vấn đề nếu bạn đưa nó ra và mọi người quá tự tin về những gì nó có thể làm rồi tích hợp nó vào tất cả các hệ thống khác". Một phát ngôn viên của OpenAI cho biết công ty liên tục nghiên cứu cách giảm thiểu các "ảo giác" và đánh giá cao những phát hiện của các nhà nghiên cứu, đồng thời cho biết OpenAI tích hợp phản hồi trong các cập nhật mô hình.

Mặc dù hầu hết các nhà phát triển giả định rằng các công cụ chuyển văn bản có thể sai chính tả hoặc mắc lỗi khác, các kỹ sư và nhà nghiên cứu cho biết họ chưa từng thấy một công cụ chuyển văn bản nào do AI hỗ trợ lại gặp "ảo giác" nhiều như Whisper.

Theo Bình Minh/ Tuổi Trẻ

https://tuoitre.vn/cong-cu-ai-chuyen-loi-noi-thanh-van-ban-cua-openai-bi-phat-hien-bia-chuyen-20241031144507089.htm

  • Từ khóa

Google giúp cảnh báo sớm động đất nhờ vào 2 tỉ điện thoại thông minh toàn cầu

Sau trận động đất mạnh ngoài khơi Nga gây cảnh báo sóng thần ở Nhật Bản và một loạt nước, việc cảnh báo sớm động đất tiếp tục là chủ đề nóng. Lúc này xuất...
17:28 - 01/08/2025
530 lượt xem

Nga cấm quảng cáo mạng riêng ảo, cấm tìm kiếm nội dung cực đoan trên mạng

Ngày 31-7, Tổng thống Nga Vladimir Putin đã ký ban hành một đạo luật mới, quy định xử phạt tài chính đối với người dùng Internet tìm kiếm các nội dung...
16:02 - 01/08/2025
531 lượt xem

Google nâng cấp AI Mode, giúp học sinh học tốt hơn

Google cũng đang thử nghiệm tính năng mới cho phép chia sẻ camera thời gian thực trong AI Mode, dựa trên nền tảng Tìm kiếm trực tiếp (Search Live).
08:43 - 01/08/2025
755 lượt xem

Google miễn phí không giới hạn mô hình Gemini tốt nhất

Mặc dù vậy, không phải đối tượng người dùng nào cũng có thể nhận được miễn phí mô hình Gemini tốt nhất từ Google.
07:06 - 01/08/2025
785 lượt xem

Microsoft đạt lợi nhuận hơn 27 tỷ USD nhờ bùng nổ AI và điện toán đám mây

Theo báo cáo tài chính của hãng, Microsoft đạt lợi nhuận 27,2 tỷ USD trên tổng doanh thu 76,4 tỷ USD; trong đó mảng kinh doanh đám mây thông minh đóng góp...
16:45 - 31/07/2025
1,101 lượt xem