213
/
166913
Microsoft tạo ra máy phát giọng nói AI nguy hiểm đến mức không thể phát hành
microsoft-tao-ra-may-phat-giong-noi-ai-nguy-hiem-den-muc-khong-the-phat-hanh
news

Microsoft tạo ra máy phát giọng nói AI nguy hiểm đến mức không thể phát hành

Thứ 4, 17/07/2024 | 09:09:49
2,184 lượt xem

Microsoft đã tạo ra một mô hình trí tuệ nhân tạo (AI) hỗ trợ chuyển văn bản thành giọng nói có thể mô phỏng giọng nói của con người tốt đến mức công ty cho rằng nó quá không an toàn để đưa ra thị trường.

Các công cụ sử dụng AI như ChatGPT ngày càng tinh vi và ấn tượng hơn, nhưng khi chúng trở nên quá tốt thì sẽ không thể phân biệt được đâu là con người và đâu là máy móc. Điều đó đã xảy ra, hoặc ít nhất khi nói đến trình tạo giọng nói dựa trên AI của Microsoft. 

VALL-E 2 tốt đến mức Microsoft không muốn phát hành công khai Chụp màn hình

Được phát hiện bởi LiveScience, Microsoft được cho là đã tạo ra trình AI có thể chuyển văn bản thành giọng nói mạnh đến mức công ty cho rằng không an toàn để công bố sản phẩm ra công chúng vì mô hình này có thể "tạo ra giọng nói chính xác, tự nhiên theo đúng giọng nói của người nói ban đầu". Rõ ràng việc công khai công cụ này có thể dẫn đến các hành vi gia tăng gian lận, mạo danh…

Mô hình AI nguy hiểm của Microsoft được gọi là VALL-E 2 và trong một bài báo, các nhà nghiên cứu giải thích rằng mô hình này đánh dấu một cột mốc trong quá trình tổng hợp văn bản thành giọng nói và đã đạt được sự tương đương với giọng nói người mà nó muốn sao chép. Các tiêu chuẩn nội bộ của Microsoft phát hiện VALL-E 2 có thể sao chép giọng nói của con người hoặc thậm chí vượt trội trong một số trường hợp.

Các nhà nghiên cứu của Microsoft cho biết: "Các thí nghiệm của chúng tôi, được tiến hành trên các tập dữ liệu LibriSpeech và VCTK, đã chỉ ra rằng VALL-E 2 vượt trội hơn các hệ thống TTS zero-shot trước đây về độ mạnh mẽ, tự nhiên và độ tương đồng của giọng nói. Đây là hệ thống đầu tiên đạt được sự tương đương với con người trên các tiêu chuẩn này".

Microsoft tuyên bố VALL-E 2 hoàn toàn là một dự án nghiên cứu, có nghĩa công ty không có kế hoạch đưa VALL-E 2 vào sản phẩm hoặc mở rộng quyền truy cập của công chúng. Tuy nhiên, công ty đã phác thảo một số trường hợp sử dụng công nghệ này có thể là những người trong ngành như giáo dục, báo chí, nội dung tự biên soạn, tính năng trợ năng, hệ thống phản hồi bằng giọng nói, dịch thuật và chatbot.

Theo Kiến Văn/ Thanh Niên

https://thanhnien.vn/microsoft-tao-ra-may-phat-giong-noi-ai-nguy-hiem-den-muc-khong-the-phat-hanh-185240715084010453.htm

  • Từ khóa

Điện thoại Xiaomi nâng tầm với HyperOS 3

Xiaomi đã chính thức ra mắt nền tảng mới nhất HyperOS 3 với một loạt cải tiến và tính năng mới cho người dùng thiết bị của hãng.
16:35 - 29/08/2025
397 lượt xem

Cảnh giác lừa đảo lợi dụng chính sách tặng quà Quốc khánh 2.9

Nhiều đối tượng xấu đã lợi dụng chính sách tặng quà 100.000 đồng cho mỗi người dân nhân dịp Quốc khánh 2.9 của chính phủ để thực hiện các hành vi lừa đảo...
15:32 - 29/08/2025
450 lượt xem

Bộ trưởng Nguyễn Mạnh Hùng: Đổi mới lần 2 để 'thoát bẫy thu nhập trung bình'

Lần đổi mới thứ nhất của Việt Nam là để thoát nghèo, đổi mới lần hai là "thoát bẫy thu nhập trung bình", trở thành nước phát triển có thu nhập cao.
15:13 - 29/08/2025
458 lượt xem

Google cảnh báo 2,5 tỉ người dùng Gmail cần làm ngay điều này

Với hơn 2,5 tỉ người dùng trên toàn cầu, ứng dụng Gmail của Google đang trở thành mục tiêu hấp dẫn cho các cuộc tấn công mạng.
08:43 - 29/08/2025
610 lượt xem

Cách nhận quà Quốc khánh 100.000 đồng qua tính năng mới trên VNeID

VNeID đã chính thức mở tính năng đăng ký tài khoản an sinh xã hội cho người dân nhằm giúp họ dễ dàng tiếp cận với các dịch vụ hỗ trợ từ Nhà nước.
07:46 - 29/08/2025
943 lượt xem