Bài 12 trong loạt bài 12 kỳ Đạo đức AI: từ giá trị đến vận hành (xem mục lục toàn chuỗi).
Tình huống sau là giả định. Tại trung tâm điều hành mạng (NOC) của một tập đoàn viễn thông, nghẽn mạng kéo dài buộc đội trực ngắt thuật toán định tuyến tự động và chuyển về chế độ điều khiển dự phòng đã chuẩn bị trước.
Đến lúc ấy, các kỹ sư trực ca mới thấy thuật toán độc quyền đã cắm sâu vào lõi mạng. Hợp đồng không yêu cầu nhà cung cấp bàn giao nhật ký quyết định theo thời gian thực. Cơ chế ngắt khẩn cấp còn phụ thuộc vào máy chủ xác thực của đối tác ở nước ngoài. Nút bấm hiện trên giao diện, nhưng quyền dừng thật chưa chắc nằm trong tay họ.
Ban điều hành phải chờ nhà cung cấp ở múi giờ khác hướng dẫn cách chuyển chế độ. Sự cố làm gián đoạn dịch vụ, đồng thời đặt ra câu hỏi về trách nhiệm: khi hệ thống thiết yếu gặp biến cố, ai thực sự có quyền quyết định?
Tình huống ấy đưa ta về điều kiện của sự ủy thác. Khi AI tham gia điều phối viễn thông, lưới điện, giao thông hay dịch vụ công, tổ chức phải giữ được quyền hiểu, can thiệp và thay thế hệ thống. Nếu người trực không thể chuyển chế độ khi sự cố xảy ra, họ còn có thể chịu trách nhiệm đến đâu?
1. Khi AI điều phối hạ tầng sống còn
Từ tín dụng, bệnh viện đến lớp học, 11 bài trước đều quay lại một câu hỏi: sau khi giao quyết định cho máy, ai còn chịu trách nhiệm? Ở hạ tầng sống còn (Critical Infrastructure), câu hỏi ấy mở rộng ra những mạng lưới mà điện, viễn thông và giao thông dựa vào.
Ở viễn thông và năng lượng, hệ thống phải xử lý dữ liệu và điều phối tài nguyên trong vài mili giây. Người vận hành không thể tự cân từng tín hiệu ở tốc độ ấy. Giao một phần quyền hành động cho máy giúp duy trì dịch vụ.
Khi doanh nghiệp hạ tầng mua giải pháp AI trọn gói, sự phụ thuộc thường lộ ra ở ba chỗ:
Khóa chặt về dữ liệu (Data Lock-in): Dữ liệu vận hành được lưu ở định dạng riêng, khiến việc trích xuất hoặc dùng lại trên nền tảng khác trở nên tốn kém.
Khóa chặt về kiến trúc (Architectural Lock-in): Thuật toán gắn với phần cứng hoặc giao thức độc quyền, nên thay một cấu phần có thể kéo theo việc thiết kế lại phần còn lại của hạ tầng.
Xói mòn năng lực nội bộ (Competence Drain): Nếu chỉ giám sát kết quả mà không được rèn kỹ năng xử lý, đội ngũ vận hành dần mất năng lực tự xoay xở.
Biến động địa chính trị, lệnh cấm vận công nghệ, tranh chấp thương mại hoặc gián đoạn dịch vụ từ nhà cung cấp đều có thể làm lộ một rủi ro cụ thể: tổ chức mất khả năng duy trì hoặc khôi phục dịch vụ thiết yếu.
2. Chương 12: điểm chốt con người và quyền dừng thật
Chương 12 của Đạo đức AI: Nguyên tắc và Thực hành (tr. 539–591) khép lại bằng một yêu cầu dành cho những hệ thống có ảnh hưởng cao.
Ở trang 591, yêu cầu ấy được nói rất rõ:
“Chương cuối không để hiểu thêm, mà để làm ngay, chọn một trường hợp ưu tiên, đặt điểm chốt con người, trao quyền dừng thật, rồi quyết định triển khai hay dừng theo mức ảnh hưởng, để AI phục vụ vận hành chứ không kéo theo sự cố.” (Chương 12, tr. 591).
Câu ấy đi thẳng từ chính sách xuống việc phải làm:
Điểm chốt con người (Human Choke-point): Không để AI tự ý thực thi các quyết định gây tổn hại nghiêm trọng hoặc không thể đảo ngược mà thiếu sự xác nhận từ con người có thẩm quyền và đủ năng lực nhận thức.
Quyền dừng thật (Real Stop Authority): Nhân sự trực tiếp vận hành phải có thẩm quyền ngắt mạch hệ thống mà không sợ bị khiển trách hay kỷ luật nội bộ khi phát hiện dấu hiệu bất thường. Một quy trình dừng chỉ nằm trên giấy mà người kỹ sư không dám bấm nút thì hệ thống đó hoàn toàn không có cơ chế an toàn.
3. Giữ quyền quyết định khi AI đi vào vận hành
Khi AI đi vào vận hành, câu hỏi về chủ quyền AI (AI Sovereignty) rất cụ thể: những quyền quyết định nào còn trong tay tổ chức?
Với tôi, chủ quyền AI là năng lực duy trì quyền tự quyết (Retained Agency) của tổ chức và quốc gia khi đưa công nghệ vào vận hành. Năng lực ấy có thể dựa vào hợp đồng, kiến trúc, dữ liệu, quy trình và đội ngũ nội bộ; sở hữu toàn bộ mã nguồn chỉ là một khả năng.
Bốn quyền này cho thấy tổ chức còn tự quyết được đến đâu:
Quyền hiểu (Right to Understand): Tổ chức hiểu rõ dữ liệu đầu vào gồm những gì, thuật toán phục vụ mục tiêu nào, và những giả định cốt lõi bên dưới mô hình.
Quyền kiểm soát (Right to Control): Tổ chức có năng lực quan sát hệ thống (observability), giám sát theo thời gian thực và kịp thời can thiệp điều chỉnh các tham số vận hành.
Quyền ngắt mạch (Right to Disconnect): Tổ chức nắm giữ nút ngắt mạch khẩn cấp độc lập để chuyển hệ thống sang trạng thái suy giảm an toàn (Safe Degradation) khi mô hình phát sinh lỗi.
Quyền rút lui (Right to Exit): Tổ chức có phương án khả thi để chuyển đổi sang đối tác công nghệ khác hoặc giải pháp thay thế trong khung thời gian cho phép mà không làm đổ vỡ toàn bộ hệ thống.
4. Từ chuẩn tham chiếu đến chế độ vận hành an toàn
Để biến quyền tự quyết thành kiểm soát vận hành, cần nhìn vào quản trị rủi ro AI và an ninh hệ thống điều khiển công nghiệp.
NIST AI RMF 1.0 tổ chức công việc quản trị rủi ro theo bốn chức năng Govern, Map, Measure và Manage. Trong đó có yêu cầu về quy trình dự phòng cho sự cố ở hệ thống AI bên thứ ba có rủi ro cao và về khả năng hệ thống thất bại an toàn. IEC 62443 là một họ tiêu chuẩn về an ninh cho hệ thống tự động hóa và điều khiển công nghiệp. Hai nguồn là điểm tựa để tổ chức xác định kiểm soát phù hợp với bối cảnh, còn phân tích nguy cơ cụ thể vẫn là trách nhiệm của tổ chức.
Chế độ suy giảm an toàn: Khi mô hình AI gặp lỗi, mất kết nối hoặc có dấu hiệu bị xâm phạm, hệ thống cần chuyển sang trạng thái đã được phân tích nguy cơ và diễn tập trước. Trạng thái ấy có thể là các quy tắc xác định, một giới hạn dịch vụ, hoặc điều khiển thủ công. Mục tiêu là giữ an toàn cho chức năng thiết yếu, thay vì cố duy trì mọi tự động hóa bằng mọi giá.
Nhật ký và phân tách trách nhiệm: Hệ thống cần để lại dấu vết đủ độc lập để tổ chức tái dựng được điều gì đã xảy ra, theo thẩm quyền nào và ai đã can thiệp. Điều này phải được thiết kế thành điều khoản kiểm soát và bằng chứng kiểm tra, không thể mặc định suy ra từ tên của một tiêu chuẩn.
5. Bốn trụ cột để giữ quyền tự quyết trong hạ tầng
Tôi gom các yêu cầu ấy thành Khung duy trì chủ quyền AI hạ tầng (Critical Infrastructure AI Sovereignty Framework). Bốn việc cần nối với nhau trong vận hành là:
Bốn việc theo thứ tự:
1. Quyền dừng khẩn cấp → 2. Quan sát và kiểm toán nhật ký → 3. Chuẩn mở và phương án rút lui → 4. Diễn tập sự cố và năng lực trực ca
Bốn trụ cột trong thực tế
Trụ cột 1: Quyền dừng khẩn cấp và suy giảm an toàn (Real Kill-Switch & Fail-Safe)
Nội dung kiểm soát: Thiết lập cơ chế ngắt khẩn cấp phần cứng hoặc phần mềm độc lập, cho phép con người đưa hệ thống về trạng thái vận hành an toàn trong thời gian đã được phân tích nguy cơ và xác nhận qua diễn tập. Ngưỡng thời gian phụ thuộc vào quán tính vật lý, tác động và mức rủi ro của từng hệ thống.
Bằng chứng và log bắt buộc: Báo cáo kiểm tra nút ngắt khẩn cấp (Kill-Switch Test Report), biên bản quy trình chuyển đổi dự phòng an toàn (Fail-Safe Protocol Record).
Chủ thể chịu trách nhiệm: Giám đốc vận hành (COO), Trưởng bộ phận hạ tầng (Head of Infrastructure).
Tiêu chí dừng và cảnh báo: Nút ngắt mạch khẩn cấp không kích hoạt được hoặc phụ thuộc vào kết nối mạng với máy chủ của bên thứ ba.
Trụ cột 2: Quyền quan sát và kiểm toán nhật ký (Auditability & Observability)
Nội dung kiểm soát: Yêu cầu đối tác công nghệ cung cấp trọn vẹn dữ liệu đầu vào, đầu ra, chỉ số suy giảm chất lượng mô hình (model drift) và năng lực truy vết nguồn gốc từng quyết định vận hành.
Bằng chứng và log bắt buộc: Bảng giám sát vận hành thời gian thực (System Observability Dashboard), kho lưu trữ nhật ký kiểm toán bất biến (Audit Log Archive).
Chủ thể chịu trách nhiệm: Giám đốc an toàn thông tin (CISO), Kỹ sư trưởng hệ thống (Lead Engineer).
Tiêu chí dừng và cảnh báo: Mô hình không thể xuất log kiểm toán chi tiết hoặc thiếu trường dữ liệu chứng minh cho các can thiệp vào hạ tầng.
Trụ cột 3: Phương án rút lui khỏi nhà cung cấp (Vendor Exit Strategy)
Nội dung kiểm soát: Ràng buộc dữ liệu và kiến trúc hệ thống phải tuân thủ chuẩn kết nối mở (Open API, định dạng dữ liệu mở), bảo đảm tổ chức có phương án dự phòng khả thi để chuyển đổi giải pháp khi phát sinh rủi ro, dựa trên mức độ sẵn sàng của dữ liệu sao lưu và tính tương thích công nghệ thực tế.
Bằng chứng và log bắt buộc: Kế hoạch giải phóng phụ thuộc nhà cung cấp (Vendor Lock-in Exit Plan), báo cáo kiểm toán khả năng tương thích liên thông (Interoperability Audit).
Chủ thể chịu trách nhiệm: Giám đốc công nghệ (CTO), Trưởng bộ phận pháp chế (Legal Counsel).
Tiêu chí dừng và cảnh báo: Thiếu phương án sao lưu dữ liệu độc lập hoặc hệ thống bị trói chặt vào các giao thức phần cứng độc quyền.
Trụ cột 4: Diễn tập sự cố và năng lực đội ngũ trực tiếp (Incident Drill & Operations Training)
Nội dung kiểm soát: Tổ chức diễn tập ngắt kết nối AI theo chu kỳ phù hợp với mức rủi ro, kiểm tra năng lực điều khiển thủ công và khả năng xử lý tình huống bất thường của đội ngũ kỹ sư vận hành.
Bằng chứng và log bắt buộc: Nhật ký diễn tập tình huống khẩn cấp (Emergency Drill Log), báo cáo đánh giá độ sẵn sàng của nhân sự trực ca (Staff Readiness Assessment).
Chủ thể chịu trách nhiệm: Giám đốc vận hành (Head of Operations), Giám đốc an toàn (Safety Director).
Tiêu chí dừng và cảnh báo: Kỹ sư trực ca lúng túng hoặc không thể duy trì vận hành thủ công khi hệ thống AI bị cô lập.
6. Ba câu hỏi cho người vận hành hạ tầng
Tình huống ấy đặt ra câu hỏi: tổ chức còn kiểm soát được gì? Ban lãnh đạo và kỹ sư trưởng có thể bắt đầu bằng ba câu hỏi:
Nếu đường truyền ra ngoài mất hoặc nhà cung cấp đổi chính sách, chức năng cơ bản nào còn chạy tại chỗ? Dữ liệu lịch sử và cấu hình cốt lõi có ở định dạng tổ chức dùng được để chuyển sang giải pháp khác không?
Kế hoạch dự phòng đã được diễn tập chưa? Hãy ngắt kết nối mô hình trong một buổi diễn tập và kiểm tra xem chốt an toàn, chế độ vận hành cơ bản có hoạt động như thiết kế không.
Ai chỉ huy ca trực khi phải chuyển chế độ? Người đó cần đủ thông tin, quyền dừng và sự bảo vệ khi chọn ngắt thuật toán để giữ an toàn cho mạng lưới.
Không thể tắt cả lưới điện hay cắt liên lạc của hàng triệu người mỗi khi thuật toán gặp lỗi. Người vận hành phải biết phần nào cần dừng để dịch vụ thiết yếu tiếp tục an toàn. Với tôi, độ tin cậy nằm ở quyền hạn và phương án thật mà người trực có trong tay: họ biết gì, can thiệp được đến đâu, và sau khi AI dừng thì hệ thống sẽ ra sao.
Vị trí trong bản đồ
Quyền lực được ủy thác. AI điều phối mạng lưới viễn thông, lưới điện thông minh, dây chuyền sản xuất tự động và hệ thống hành chính công.
Tính chính đáng về giá trị. Bảo đảm an ninh quốc gia, sự liên tục của dịch vụ công cộng và quyền bình đẳng của mọi công dân trong xã hội số.
Thẩm quyền và trách nhiệm. Kỹ sư trưởng vận hành hệ thống, lãnh đạo cơ quan hạ tầng và cơ quan giám sát độc lập.
Kiểm soát và bằng chứng vận hành. Nút ngắt khẩn cấp thực tế (Real Kill-Switch), chế độ suy giảm an toàn (Safe Degradation Mode), phương án chuyển đổi nhà cung cấp (Vendor Exit Plan).
Quyền tự quyết cần giữ. AI Sovereignty: Tổ chức giữ quyền hiểu, kiểm soát, thay thế và không bị khóa chặt vào một nhà cung cấp công nghệ độc quyền.
Vết nứt xuyên hệ thống. Khoảng trống kiểm soát sinh tử: AI được tích hợp sâu vào hạ tầng nhưng khi có sự cố mạng hoặc lỗi mô hình, con người không có cách nào ngắt máy an toàn.
Phản tư và điều chỉnh. Bằng chứng từ diễn tập, chuyển đổi và xử lý sự cố là căn cứ để lãnh đạo cùng người phụ trách vận hành điều chỉnh ngưỡng can thiệp, phương án dự phòng và phạm vi ủy thác, kể cả thu hồi quyền của AI.
Nguồn được nhắc tới
Chương 12 (tr. 591) của cuốn Đạo đức AI: Nguyên tắc và Thực hành (Đào Trung Thành) khép lại bằng lời nhắc: “Chương cuối không để hiểu thêm, mà để làm ngay, chọn một trường hợp ưu tiên, đặt điểm chốt con người, trao quyền dừng thật, rồi quyết định triển khai hay dừng theo mức ảnh hưởng, để AI phục vụ vận hành chứ không kéo theo sự cố.”
Với tôi, chủ quyền AI cũng có nghĩa là tổ chức hiểu, kiểm soát, thay thế và chịu trách nhiệm về hệ thống mình vận hành, kể cả khi công nghệ do bên ngoài cung cấp.
Tham chiếu: NIST AI RMF 1.0, với các chức năng Govern, Map, Measure và Manage; IEC 62443, họ tiêu chuẩn về an ninh hệ thống tự động hóa và điều khiển công nghiệp. Truy cập ngày 09-09-2026.
Sau mười hai bài
Lời kết: Trở lại quyết định trao quyền ban đầu
Mười hai bài chuyên đề cùng Bài mở đầu xoay quanh một quyết định: AI được giao quyền gì, và ai còn chịu trách nhiệm?
Ở Bài mở đầu, tôi mời bạn chọn một hệ thống AI đang chạy trong đơn vị, ghi rõ nó được phép làm đến đâu và ai có quyền giao hoặc thu hồi quyền ấy. Trên tờ giấy đó, hãy ghi tiếp giá trị cần bảo vệ, người chịu trách nhiệm nếu có sai sót, dấu vết kiểm tra và cách đưa công việc về cho con người. Chỗ nào chưa biết, ghi thẳng là chưa biết.
Mở lại tờ giấy ấy.
Quyền nào bạn muốn thu hẹp, thêm điều kiện hoặc thu hồi?
Sợi chỉ xuyên suốt loạt bài là quyền lực được ủy thác cho AI (Delegated AI Agency): mỗi lần giao thuật toán quyền lựa chọn hay hành động có hệ quả với con người, tổ chức cần tự hỏi bốn điều:
Tính chính đáng về chuẩn tắc (AI Ethics): Ta có nên giao quyền này cho máy không? Ai có thể chịu thiệt nếu tổ chức đổi tốc độ hay chi phí lấy quyền lợi hoặc phẩm giá của họ?
Thẩm quyền và trách nhiệm giải trình (AI Governance): Ai có quyền cho phép AI hoạt động, giới hạn quyền ấy và thu hồi nó? Nếu mô hình sai, chức danh nào phải giải trình?
Bảo đảm trong vận hành (Operational Assurance): Hệ thống đang làm gì? Người trực có công cụ, thời gian và quyền để quan sát rồi dừng nó không? Tổ chức lưu lại bằng chứng nào?
Quyền tự quyết được giữ lại (AI Sovereignty): Sau khi AI vào việc, bác sĩ còn tự xem lại kết quả không? Chuyên viên tín dụng được quyền ghi đè không? Doanh nghiệp còn chuyển giải pháp được khi nhà cung cấp đổi điều kiện?
Khoảng trống cấu trúc (The Structure Gap) xuất hiện khi trách nhiệm mơ hồ, người giám sát thiếu thời gian hoặc năng lực, chưa có ngưỡng dừng, và nhật ký không đủ để lần lại sự cố.
Để những cam kết ấy có tác dụng, bằng chứng vận hành phải trở lại bàn quyết định:
Vòng phản tư trong vận hành:
Giá trị → Ủy thác → Hành động → Bằng chứng → Phản tư → Điều chỉnh → Ủy thác mới…
Những lần nhân viên sửa sai, khiếu nại của khách hàng hay dấu hiệu mô hình trôi dạt đều cho tổ chức lý do xem lại cách trao quyền. Khi chưa kiểm soát được một phần việc, hãy thu hẹp phạm vi AI được phép làm; khi quyền tự quyết bị đe dọa, đặt chốt dừng.
Sáng thứ Hai, hãy hỏi những người đang trực tiếp gánh trách nhiệm: nhân viên chăm sóc khách hàng, bác sĩ trực đêm, giảng viên đứng lớp, kỹ sư tại trạm điều hành. Họ có đủ thông tin, thẩm quyền và sự bảo vệ để giữ trách nhiệm nghề nghiệp trước thuật toán không?
Đạo đức AI bắt đầu bằng giá trị, nhưng chỉ được chứng minh bằng kỷ luật vận hành. Ở hệ thống của mình, ai có quyền dừng AI, và bằng chứng nào cho thấy người đó có thể làm được?
Nếu bạn muốn quay lại điểm xuất phát của hành trình này, xin mời bạn đọc lại trong Vì sao tôi viết Đạo đức AI.
Điều hướng loạt bài:
• 📑 Xem mục lục toàn chuỗi (Bài mở đầu)
• ← Bài trước: Bài 11. Giáo dục không được tối ưu hóa bằng cách thu hẹp con người thành một điểm số
Cuốn sách
Đạo đức AI: Nguyên tắc và Thực hành của Đào Trung Thành do Nhà xuất bản Khoa học - Công nghệ - Truyền thông năm 2026; Công ty Cổ phần Xuất bản Khoa học và Giáo dục Thời Đại (Times Books) phát hành. Sách có 616 trang, ISBN 978-604-45-2705-5.
Khám phá cuốn sách tại website chính thức.
#DaoDucAI #AIEthics #AIgovernance #AISovereignty #OperationalAI #DigitalGovernance #CriticalInfrastructure #ResponsibleAI