Áp dụng robot phẫu thuật bệnh nhân ung thư đường tiêu hóa tại Bệnh viện K (Hà Nội). Ảnh: BVCC. 

Rủi ro từ “hộp đen” AI

Ở Việt Nam, nhiều bệnh viện lớn như Bạch Mai, Chợ Rẫy, Bệnh viện Trung ương Huế, Bệnh viện K đã đưa công nghệ này vào hoạt động chuyên môn. Tuy nhiên, hiệu quả của AI không chỉ phụ thuộc vào năng lực thuật toán mà còn gắn chặt với chất lượng dữ liệu và khả năng kiểm chứng kết quả.

Tại tọa đàm khoa học “Thực hành trí tuệ nhân tạo có trách nhiệm trong lĩnh vực y tế: Khung quản trị, chuẩn mực đạo đức và thực tiễn lâm sàng” mới đây, PGS.TS Lê Thanh Hà, Trường Đại học Công nghệ (ĐHQG Hà Nội) chỉ ra 2 thách thức lớn: Tình trạng “hộp đen” AI và nguy cơ suy giảm chất lượng dữ liệu.

“Hộp đen” là tình trạng bác sĩ khó lý giải cách hệ thống chuyển dữ liệu lâm sàng đầu vào thành một dự đoán hoặc khuyến nghị cụ thể. Khi không hiểu cơ sở hình thành kết quả, việc đánh giá độ tin cậy và phát hiện sai lệch của thuật toán cũng trở nên khó khăn. Đây là vấn đề đáng lo ngại khi khuyến nghị của AI có thể tác động trực tiếp đến quyết định chẩn đoán, điều trị.

Một rủi ro khác nằm ở dữ liệu. Nếu dữ liệu huấn luyện không đầy đủ, thiếu tính đại diện hoặc chỉ tập trung vào một nhóm dân cư nhất định, thuật toán có thể hoạt động kém chính xác khi áp dụng cho những cộng đồng khác. Các chỉ số thống kê chung cũng có thể che khuất những trường hợp bệnh hiếm. Chưa kể, dữ liệu y tế liên tục thay đổi, khiến chất lượng dự đoán của phần mềm có nguy cơ suy giảm theo thời gian nếu không được cập nhật và đánh giá định kỳ.

Thực tế tại Việt Nam cho thấy vấn đề này không chỉ mang tính lý thuyết. TS Khương Anh Tuấn, Phó Viện trưởng Viện Chiến lược và Chính sách y tế (Bộ Y tế) dẫn chứng, Việt Nam từng tiếp nhận phần mềm ứng dụng AI từ Australia phục vụ điều trị ung thư vú nhưng phải xây dựng lại dữ liệu từ đầu do đặc điểm sinh học của người Australia khác với người Việt Nam.

Trường hợp này cho thấy một thuật toán đã được kiểm chứng ở nước ngoài chưa chắc phù hợp khi đưa vào môi trường y tế trong nước. Đặc điểm dân số, dịch tễ, bệnh lý và điều kiện thực hành lâm sàng đều có thể ảnh hưởng đến kết quả. Vì vậy, dữ liệu địa phương và việc kiểm định công nghệ trong điều kiện sử dụng thực tế là những yêu cầu không thể bỏ qua.

Kiểm soát công nghệ, bảo đảm an toàn người bệnh

Theo các chuyên gia, để AI phát huy hiệu quả trong y tế, cần có cơ chế đánh giá rủi ro và giám sát xuyên suốt quá trình sử dụng. Không thể áp dụng cùng một cách quản lý đối với phần mềm phục vụ điều hành bệnh viện và hệ thống trực tiếp tham gia hỗ trợ chẩn đoán, điều trị.

TS Khương Anh Tuấn cho rằng, hiện các phần mềm ứng dụng AI đang được sử dụng tại nhiều cơ sở y tế nhưng chưa có sự phân loại rủi ro và phân loại thiết bị tương ứng. Ông Tuấn đề xuất nghiên cứu đưa các quy định về AI y tế vào quá trình hoàn thiện Luật AI và xây dựng Luật Thiết bị y tế, đồng thời ban hành những quy định tạm thời để đáp ứng yêu cầu thực tiễn.

Ở góc độ quản trị, PGS.TS Nguyễn Thị Quế Anh, Trường Đại học Luật (ĐHQG Hà Nội) nhấn mạnh sự cần thiết phải xây dựng cơ chế “đồng trách nhiệm” giữa nhà phát triển thuật toán, cơ sở y tế và bác sĩ điều trị. Bởi khi AI đưa ra khuyến nghị sai lệch gây hậu quả nghiêm trọng, việc xác định chủ thể chịu trách nhiệm có thể gặp khó khăn nếu vai trò, nghĩa vụ của từng bên chưa được quy định rõ.

Một nguyên tắc quan trọng được các chuyên gia đặt ra là AI chỉ có quyền tự chủ hạn chế. Công nghệ không thể tự quyết định hoàn toàn những vấn đề liên quan đến sức khỏe, tính mạng người bệnh. Các kết quả và khuyến nghị phải được người có thẩm quyền chuyên môn kiểm tra, xác minh trước khi sử dụng trong thực hành lâm sàng.

Những yêu cầu trên cho thấy ứng dụng AI trong y tế cần được nhìn nhận như một quá trình quản trị công nghệ, chứ không dừng ở việc trang bị phần mềm cho các bệnh viện. Chất lượng dữ liệu, khả năng giải thích thuật toán, kiểm định độc lập và giám sát sau triển khai phải trở thành những điều kiện quan trọng trước khi công nghệ được sử dụng rộng rãi.

Theo Lê Minh/ Báo Đại đoàn kết

https://daidoanket.vn/ung-dung-tri-tue-nhan-tao-trong-y-te-tiem-nang-lon-rui-ro-cao.html