Hội thảo góp ý hoàn thiện dự thảo Luật Trí tuệ nhân tạo (AI). (Ảnh: HƯƠNG NGUYÊN)

Những sự việc gần đây liên quan thiên kiến, ngụy tạo tài liệu khiến các học giả phải cân nhắc lại về mức độ tham gia của AI thế nào trong công tác nghiên cứu cho phù hợp.

Mới đây, trên trang cá nhân của mình, Giáo sư, Tiến sĩ Ngôn ngữ học Nguyễn Văn Hiệp đã chia sẻ một câu chuyện khiến người đọc sửng sốt. Ông phát hiện AI đã ngụy tạo tài liệu của ông trong thông tin gửi tới từ một người bạn. Ông cũng tình cờ phát hiện thêm bài viết của Phó Giáo sư, Tiến sĩ Khoa học Trần Văn Cơ cũng là do AI ngụy tạo tài liệu.

AI đã trở thành một phần tất yếu của đời sống con người, tuy nhiên, các chuyên gia luôn nhấn mạnh rằng, chúng ta chỉ nên xem AI như một công cụ trợ giúp. Người sử dụng AI luôn cần tỉnh táo và hiểu biết để xử lý dữ liệu và đánh giá các kết quả thu được sau khi “hợp tác” với AI. Riêng trong nghiên cứu khoa học, nhiều nghiên cứu đã cho thấy, vấn đề lớn nhất cần cảnh giác, chính là sự thiên lệch trong dữ liệu và mô hình. AI có thể thiên vị, làm méo mó các kết quả phân tích, tạo ra định kiến hoặc kỳ thị, thao túng thông tin nếu không được kiểm soát tốt.

Đặc biệt, việc sử dụng AI trong nghiên cứu khoa học xã hội cần thận trọng hơn rất nhiều. Bởi các lĩnh vực trong khoa học xã hội như triết học, ngôn ngữ học, dân tộc học, sử học… đều lấy hành vi, văn hóa, ứng xử của con người làm đối tượng nghiên cứu, do đó các dữ liệu thường gắn chặt với bối cảnh văn hóa xã hội Việt Nam, có chiều sâu và tính chuyên biệt. Nếu dữ liệu huấn luyện AI phản ánh các định kiến lịch sử thì điều nguy hại có thể xảy ra, là AI có thể đưa ra những kết luận làm trầm trọng thêm các vấn đề bất bình đẳng giới, giai cấp, chủng tộc, hoặc khu vực địa lý. Nguy cơ lớn hơn nữa khi AI được sử dụng để phân tích hành vi con người, phản hồi các khảo sát mở hay tham gia vào các nội dung truyền thông.

Theo nhận định của một số chuyên gia khoa học xã hội, hiện AI khó có thể truy cập vào các nguồn dữ liệu có bản quyền hoặc phải trả phí dẫn đến các thông tin cung cấp không cập nhật đầy đủ.

Hiện tượng ngụy tạo tư liệu nhằm tạo ra những câu chuyện có vẻ hợp lý thường xảy ra ở các chủ đề ít phổ biến, trong các ngôn ngữ có nguồn dữ liệu hạn chế như tiếng Việt, cần được khuyến cáo để người sử dụng cảnh giác. Hệ thống AI nói chung hiện nay còn rất hạn chế trong việc hiểu ngữ cảnh xã hội và văn hóa, do đó, việc trợ giúp diễn giải các tri thức khoa học xã hội đa nghĩa, giàu ẩn dụ không thật sự đáng tin cậy.

Có thể thấy, dù mang lại nhiều tiềm năng trong nghiên cứu khoa học, nhưng việc ứng dụng AI cần hết sức thận trọng, có giới hạn và luôn luôn phải đi kèm với năng lực phản biện của người làm nghiên cứu. Chủ thể sử dụng AI bắt buộc phải nhận diện rõ các hạn chế này trong sử dụng AI, bảo đảm AI không làm thay đổi các giá trị cốt lõi của khoa học. Muốn bảo vệ tính liêm chính trong nghiên cứu khoa học, vai trò, trách nhiệm của nhà khoa học phải được nâng lên một bước. Ngoài ra, cần đề ra một khung đạo đức AI mang tính pháp lý ràng buộc đặt trong bối cảnh văn hóa, truyền thống và chuẩn mực xã hội Việt Nam.

Chúng ta đã có hệ thống chín nguyên tắc nhằm thúc đẩy nghiên cứu và phát triển hệ thống AI an toàn, có trách nhiệm, hạn chế ảnh hưởng tiêu cực và kiểm soát rủi ro của Bộ Khoa học và Công nghệ đề ra, trong đó nhấn mạnh tính bảo mật dữ liệu cũng như tôn trọng quyền và phẩm giá con người, trách nhiệm giải trình của người sử dụng AI. Riêng trong nghiên cứu khoa học, Hội đồng Giáo sư Nhà nước cũng đã có Công văn số 25/HĐGSNN năm 2023, yêu cầu các hội đồng chức danh giáo sư ngành, cơ sở thẩm định chất lượng các công trình khoa học đặc biệt lưu ý phát hiện và đánh giá những công trình có sử dụng hoặc được công nghệ AI trợ giúp. Những yêu cầu này nhằm bảo đảm kết quả nghiên cứu dùng AI vẫn đáp ứng chuẩn mực khoa học, ngăn ngừa hiện tượng lạm dụng AI trong nghiên cứu và công bố khoa học.

Thời gian tới, khi Luật Trí tuệ nhân tạo được ban hành, với các quy định chặt chẽ liên quan đạo đức, trách nhiệm sử dụng AI sẽ góp phần kiến tạo một môi trường lành mạnh để AI phát triển, hỗ trợ tích cực hơn và trách nhiệm hơn cho các nhà khoa học trong công tác nghiên cứu.

Theo Hội Vũ/NDO

https://nhandan.vn/canh-giac-voi-mat-trai-cua-ai-post916545.html