Bài 10 trong series (loạt bài) Đạo đức AI: từ giá trị đến vận hành.
Cảnh mở dưới đây là tình huống giả định; nhân vật và số liệu dùng để minh họa nguy cơ suy giảm cảnh giác lâm sàng (automation bias) trong môi trường bệnh viện.
Hãy hình dung một ca trực đêm ở phòng cấp cứu, khi khoa vừa đưa vào vận hành phần mềm AI hỗ trợ phân luồng và đọc phim phổi. Mô hình học sâu được huấn luyện trên hàng trăm nghìn phim X-quang, phát hiện tổn thương và gán nhãn mức độ khẩn cấp trong 3 giây. Ban giám đốc hy vọng hệ thống sẽ giảm tải cho bác sĩ trực.
Người bác sĩ trực phải xem hơn 80 phim mỗi ca, chưa đầy 15 giây cho mỗi phim. AI tô xanh các phim “bình thường” và đánh dấu đỏ những phim “nghi ngờ tổn thương”. Trong áp lực của phòng cấp cứu, bác sĩ lướt qua nhãn xanh để ưu tiên các ca báo đỏ. Dần dần, sự cẩn trọng lâm sàng nhường chỗ cho niềm tin vào nhãn của thuật toán. Người bác sĩ không có thời gian phóng to, kiểm tra từng vùng mờ nhỏ ở đáy phổi sau khi máy đã báo an toàn.
AI đã xếp phim X-quang của một bệnh nhân vào nhóm bình thường, khiến một nốt mờ nguy hiểm ở giai đoạn sớm bị bỏ sót. Khi hội đồng chuyên môn rà soát ca bệnh, mỗi bên đưa ra một lời giải thích. Đơn vị phát triển nhắc rằng mô hình luôn có xác suất sai số; nhà cung cấp dẫn điều khoản hợp đồng, khẳng định phần mềm chỉ mang tính “tham khảo”. Người bác sĩ lâm sàng vừa phải ký duyệt số lượng lớn ca bệnh, vừa không được quy trình dành đủ thời gian để rà soát độc lập những phim máy đã báo an toàn.
Một hệ thống AI có thể đạt độ chính xác 98% trong một nghiên cứu. Hai phần trăm sai số còn lại vẫn có thể ảnh hưởng đến người bệnh ngay giữa một ca trực. Nếu bệnh viện không phân công trách nhiệm từ trước, thuật toán chỉ đưa thêm một hộp đen vào quy trình chăm sóc.
1. Khi thuật toán bước vào phòng cấp cứu và chẩn đoán
AI tham gia vào nhiều khâu y tế: đọc hình ảnh X-quang, CT và MRI; gợi ý phác đồ điều trị ung thư; tóm tắt hồ sơ bệnh án.
Trong y tế, một kết quả sai có thể làm người bệnh mất cơ hội điều trị hoặc phải trải qua phẫu thuật, hóa trị không cần thiết. Âm tính giả có thể làm chậm việc phát hiện bệnh nặng; dương tính giả có thể dẫn đến can thiệp gây tổn hại thể chất và tinh thần. An toàn người bệnh phải là điểm xuất phát khi đánh giá công nghệ y tế.
Nhà phát triển thường nêu độ chính xác (accuracy), AUC và độ nhạy (sensitivity), đôi khi tuyên bố hệ thống vượt bác sĩ trung bình. Các chỉ số trên tập thử nghiệm chưa cho biết công cụ có ích ra sao trong thực hành lâm sàng.
Độ chính xác trên dữ liệu thử nghiệm dẫn đến một câu hỏi khác: khi AI gợi ý sai, ai có đủ thông tin, thẩm quyền và nghĩa vụ để ngăn hậu quả trước khi nó ảnh hưởng đến người bệnh? Quy định “bác sĩ chịu trách nhiệm cuối cùng” không có ý nghĩa nếu bác sĩ phải duyệt hàng trăm ca trong một ca trực. Khi ấy, tổ chức đã dồn rủi ro của thuật toán lên vai người thầy thuốc.
2. Bài học từ Chương 10: khóa chặt trách nhiệm trước khi mở rộng
Trong cuốn Đạo đức AI: Nguyên tắc và Thực hành, tại Chương 10 (Y tế, tr. 413–448), tôi đã mổ xẻ những điểm đau đạo đức và ranh giới vận hành khi AI đi vào môi trường lâm sàng. Y tế là nơi mà mọi khái niệm lý thuyết về đạo đức AI phải biến thành kỷ luật vận hành nghiêm ngặt nhất.
Tiểu kết Chương 10 nêu yêu cầu sau:
“mọi đổi mới phải ‘khóa chặt trách nhiệm’ trước khi mở rộng.” (Chương 10, tr. 448)
Ở tr. 448, tôi nối bản đồ ứng dụng AI y tế với minh bạch, ranh giới dữ liệu, cách chọn bài toán và quyền dừng. Bệnh viện cần xác định ai chịu trách nhiệm cho quyết định lâm sàng trước khi mở rộng AI. Nếu không, người bệnh và đội ngũ y tế phải đối mặt với rủi ro pháp lý và đạo đức khó kiểm soát.
Cũng tại Chương 10, khi phân tích cơ chế con người trong vòng lặp (human-in-the-loop) trong môi trường y khoa, tôi đã nhấn mạnh:
“Ở bệnh viện, AI tạo sinh có thể là một trợ lý rất chăm chỉ, nhưng nó không được quyền là ‘người quyết định’.” (Chương 10, tr. 438)
AI có thể giúp đọc nhiều lát cắt hình ảnh và tra cứu tài liệu y khoa. Quyết định điều trị vẫn cần phán đoán chuyên môn của bác sĩ và trách nhiệm của cơ sở y tế. Cơ chế human-in-the-loop chỉ đáng tin khi bác sĩ có thể rà soát trong ca trực. Chữ ký cuối quy trình không thể thay cho thời gian và quyền can thiệp.
3. Cái bẫy automation bias và nguy cơ suy giảm năng lực lâm sàng
Một trong những thách thức lớn nhất khi đưa AI vào quy trình lâm sàng là hiện tượng automation bias (thiên kiến tự động hóa) và over-reliance (sự phụ thuộc quá mức vào máy móc).
Nhận gợi ý đúng qua nhiều ca có thể khiến bác sĩ giảm cảnh giác. Bác sĩ trẻ hoặc người đang quá tải dễ chấp nhận gợi ý mà không kiểm tra độc lập. Khi đó, AI trở thành người ra quyết định trên thực tế (de facto decision maker), dù quy trình chỉ giao cho nó vai trò hỗ trợ (decision support tool). Ở chiều ngược lại, quá nhiều cảnh báo giả có thể gây quá tải cảnh báo (alarm fatigue). Bác sĩ có thể tắt bớt cảnh báo hoặc bỏ qua toàn bộ gợi ý của hệ thống, khiến khoản đầu tư công nghệ mất tác dụng.
Trong y tế, giám sát của con người (human oversight) chỉ thực chất khi bác sĩ có thông tin để chất vấn gợi ý của AI, thời gian để rà soát độc lập và thẩm quyền chuyên môn để can thiệp hoặc bác bỏ quyết định.
Nếu quy trình buộc bác sĩ duyệt 100 ca chụp X-quang mỗi giờ, họ chỉ còn là “con dấu cao su” che chắn cho rủi ro của máy. Gắn nhãn “con người trong vòng lặp” lên quy trình ấy chưa tạo ra giám sát thực chất. Bác sĩ phải có thể nói “tôi không đồng ý với máy” mà không sợ trễ ca hay bị đánh giá năng suất thấp.
4. Tham chiếu quốc tế cho thiết bị y tế có AI
Khi AI hỗ trợ chẩn đoán hoặc điều trị, bệnh viện cần làm rõ mục đích sử dụng, điều kiện kiểm chứng, cách phát hiện sự cố, quy trình lâm sàng và thẩm quyền tại cơ sở.
FDA định nghĩa Software as a Medical Device (SaMD) là phần mềm có mục đích y tế nhưng không là một bộ phận của phần cứng thiết bị y tế. Bộ nguyên tắc Good Machine Learning Practice (GMLP) do FDA, Health Canada và MHRA công bố năm 2021 nêu các điểm tựa cho thiết bị y tế có AI/học máy: dữ liệu và nhóm nghiên cứu phù hợp với mục đích sử dụng, thử nghiệm trong điều kiện có ý nghĩa lâm sàng, hiệu năng của nhóm người và AI, thông tin rõ cho người dùng, cùng việc theo dõi mô hình sau triển khai. Những tài liệu này là tham chiếu quản trị hữu ích, không thay thế yêu cầu pháp lý hay thẩm định chuyên môn tại Việt Nam.
Trước khi đưa công cụ vào sử dụng, bệnh viện cần trả lời ba câu hỏi:
Ranh giới mục đích sử dụng. Công cụ được dùng để phân luồng, làm người đọc thứ hai hay khoanh vùng tổn thương nghi ngờ? Nó không được âm thầm chuyển thành công cụ ra quyết định điều trị chỉ vì tổ chức đang chịu áp lực năng suất.
Kiểm chứng trong bối cảnh sử dụng. Dữ liệu huấn luyện, người dùng, thiết bị chụp, quần thể người bệnh và luồng công việc thực tế có khác với điều kiện đã đánh giá không? Câu hỏi này đặc biệt quan trọng trước khi dùng mô hình phát triển ở nơi khác cho người bệnh Việt Nam.
Theo dõi khi đã vận hành. Tổ chức cần biết tín hiệu nào cho thấy hiệu năng hoặc tính phù hợp đang suy giảm, ai xem tín hiệu đó và ai được quyền tạm dừng hay thu hẹp phạm vi sử dụng.
Phê duyệt ở nước ngoài không tự chứng minh công cụ phù hợp với cơ sở, người bệnh và quy trình tại Việt Nam. Tài liệu ấy giúp bệnh viện biết cần hỏi gì trước khi đưa công cụ vào nơi có hậu quả lâm sàng.
5. Một khung kiểm soát an toàn AI lâm sàng
Để các nguyên tắc y đức đi vào thực hành, bệnh viện có thể thiết kế khung kiểm soát phù hợp với từng ứng dụng. Bốn điểm sau là đề xuất vận hành của bài viết, không phải checklist pháp lý dùng chung.
Quy trình bốn trụ cột vận hành:
1. Ấn định mục đích sử dụng → 2. Giám sát lâm sàng và thời gian duyệt → 3. Thiết lập luồng ghi đè minh bạch → 4. Giám sát sau triển khai và theo dõi độ trôi
Bốn điểm kiểm soát
Ấn định ranh giới mục đích sử dụng (Intended Use Boundary)
Nội dung kiểm soát: Ghi rõ mô hình hỗ trợ phân luồng, làm người đọc thứ hai hay khoanh vùng tổn thương nghi ngờ. Mọi đề nghị mở rộng sang quyết định điều trị phải quay lại hội đồng chuyên môn để đánh giá.
Bằng chứng cần giữ: Hồ sơ mục đích sử dụng, tài liệu kiểm chứng lâm sàng và quyết định phê duyệt phạm vi sử dụng.
Chủ thể cần phân công: Hội đồng chuyên môn, lãnh đạo khoa sử dụng và người phụ trách ứng dụng.
Tín hiệu cần xem lại: Công cụ bắt đầu được dùng cho ca bệnh, nhóm người bệnh hoặc quyết định chưa nằm trong phạm vi đã chấp thuận.
Bảo đảm quyền can thiệp lâm sàng và thời gian rà soát (Clinician Oversight & Review Time)
Nội dung kiểm soát: Thiết kế để bác sĩ có thể xem thông tin liên quan, đối chiếu độc lập và ghi nhận khác biệt trước khi quyết định.
Bằng chứng cần giữ: Dấu vết về thời điểm gợi ý được hiển thị, quyết định lâm sàng, lý do ngoại lệ và cách thông tin được trình bày cho người dùng.
Chủ thể cần phân công: Bác sĩ phụ trách ca bệnh và lãnh đạo khoa lâm sàng.
Tín hiệu cần xem lại: Thời gian duyệt hoặc kiểu sử dụng cho thấy người dùng chỉ đang xác nhận hình thức, thay vì thực hiện phán đoán độc lập.
Thiết lập luồng ghi đè lâm sàng minh bạch (Clinician Override Workflow)
Nội dung kiểm soát: Bác sĩ phải có thể bác bỏ gợi ý của AI khi nhận thấy không phù hợp về lâm sàng. Quy trình cần ghi nhận bất đồng để học từ nó, thay vì biến việc ghi đè thành một lỗi làm chậm công việc.
Bằng chứng cần giữ: Nhật ký quyết định khác với gợi ý của AI, lý do chuyên môn và cách các trường hợp lặp lại được xem xét.
Chủ thể cần phân công: Bác sĩ điều trị chính, quản lý chất lượng và người phụ trách ứng dụng.
Tín hiệu cần xem lại: Bất đồng giảm về gần như không có, tăng bất thường hoặc tập trung vào một kiểu người bệnh hay một tình huống lâm sàng.
Giám sát liên tục sau triển khai và theo dõi độ trôi (Post-market & Drift Surveillance)
Nội dung kiểm soát: Đo lại hiệu năng và các lỗi có ý nghĩa lâm sàng trên dữ liệu vận hành, theo tần suất phù hợp với mức rủi ro và tốc độ thay đổi của ứng dụng.
Bằng chứng cần giữ: Báo cáo kiểm tra hiệu năng, biên bản điều tra sự cố và quyết định tiếp tục, sửa, thu hẹp hoặc dừng công cụ.
Chủ thể cần phân công: Lãnh đạo lâm sàng, nhóm công nghệ thông tin y tế, quản lý rủi ro và hội đồng chuyên môn.
Tín hiệu cần xem lại: Bằng chứng cho thấy sai sót, chênh lệch theo nhóm người bệnh, thay đổi dữ liệu đầu vào hoặc kết quả vượt ra ngoài mức rủi ro đã được chấp nhận.
6. Điều kiện để giám sát lâm sàng thực chất và trách nhiệm của cơ sở y tế
Giám sát lâm sàng chỉ có ý nghĩa khi bác sĩ có đủ thời gian và thông tin để rà soát ca bệnh. Giao quá nhiều ca mà không bố trí thời gian kiểm tra sẽ lấy đi năng lực giám sát trước khi người thầy thuốc chạm vào màn hình. Ban lãnh đạo bệnh viện và hội đồng chuyên môn cần bảo đảm ba điều kiện:
Bảo đảm thời gian và thông tin cho phán đoán độc lập. Quy trình phải cho bác sĩ khoảng thời gian hợp lý để đối chiếu gợi ý của máy với dấu hiệu lâm sàng của người bệnh. Năng suất công nghệ không thể là lý do để ép rút ngắn sự thăm khám và suy xét cần thiết.
Xác lập quyền và văn hóa ghi đè. Suy xét chuyên môn khác với đề xuất của AI phải được ghi nhận như một phần của bảo vệ người bệnh, không bị xem là lỗi làm chậm vận hành.
Chịu trách nhiệm giải trình và rà soát. Bệnh viện không thể để cá nhân bác sĩ trực ca gánh một mình. Khi xảy ra sự cố hoặc bất đồng lặp lại, hội đồng chuyên môn phải xem lại giới hạn sử dụng trên quần thể người bệnh của chính cơ sở đó.
Trở lại phòng đọc phim lúc 1 giờ sáng. Bác sĩ chỉ có thể chịu trách nhiệm trước người bệnh nếu bệnh viện dành cho họ đủ thời gian, thông tin và thẩm quyền để rà soát độc lập.
Vị trí trong bản đồ
Quyền lực được ủy thác. AI hỗ trợ chẩn đoán hình ảnh, phân luồng bệnh nhân cấp cứu và gợi ý phác đồ điều trị.
Tính chính đáng về giá trị. Bảo vệ sinh mạng và an toàn của bệnh nhân; nguyên tắc y đức ‘Trước hết là không gây hại’ (Primum non nocere).
Thẩm quyền và trách nhiệm. Bác sĩ lâm sàng điều trị trực tiếp giữ thẩm quyền tối hậu; hội đồng chuyên môn y khoa chịu trách nhiệm phê duyệt phần mềm y tế.
Kiểm soát và bằng chứng vận hành. Hồ sơ thẩm định lâm sàng theo quần thể địa phương, nhật ký can thiệp/ghi đè của bác sĩ, quy trình xử lý khi AI và bác sĩ bất đồng ý kiến.
Quyền tự quyết cần giữ. Quyền quyết định lâm sàng độc lập của bác sĩ; quyền của bệnh nhân được biết có sự tham gia của AI và quyền từ chối.
Vết nứt xuyên hệ thống. Khoảng trống thẩm quyền: thiên kiến tự động hóa (automation bias) khiến bác sĩ trẻ ỷ lại vào máy hoặc biến thành ‘con dấu cao su’ duyệt nhanh.
Phản tư và điều chỉnh. Sự cố sai sót chẩn đoán hoặc dữ liệu bệnh nhân thay đổi buộc bệnh viện phải tạm dừng công cụ để tái thẩm định lâm sàng.
Gợi mở từ sách & nguồn tham chiếu
Điểm tựa từ sách: Phát triển từ Chương 10 (tr. 448) cuốn Đạo đức AI: Nguyên tắc và Thực hành (Đào Trung Thành): “mọi đổi mới phải ‘khóa chặt trách nhiệm’ trước khi mở rộng.”
Góc nhìn thực thi: Trong y tế, human oversight là quyền can thiệp có đủ thông tin, đủ thời gian và thẩm quyền rõ ràng.
[Nguồn ngoài] Tham chiếu mở rộng: Thuật ngữ SaMD, nguyên tắc GMLP của FDA và hướng dẫn của WHO về Đạo đức và Quản trị AI trong Y tế, truy cập ngày 09-09-2026.
Bài tiếp theo
Bài 11. Giáo dục không được tối ưu hóa bằng cách thu hẹp con người thành một điểm số
Bài 11 chuyển sang giáo dục, nơi một công cụ có thể nhận ra mẫu hình nhưng cũng có thể thu hẹp người học thành hồ sơ dễ xử lý.
Bài viết tiếp theo nhìn vào quyền được phát triển và quyền được sai của mỗi người học.
Cuốn sách đồng hành cùng series (loạt bài)
Đạo đức AI: Nguyên tắc và Thực hành của Đào Trung Thành do Nhà xuất bản Khoa học - Công nghệ - Truyền thông xuất bản năm 2026; Công ty Cổ phần Xuất bản Khoa học và Giáo dục Thời Đại (Times Books) phát hành. Sách có 616 trang, ISBN 978-604-45-2705-5.
Khám phá cuốn sách tại website chính thức.
#DaoDucAI #AIEthics #AIgovernance #HealthcareAI #ClinicalAI #PatientSafety #ResponsibleAI #OperationalAI