Mục lục
Bài 01. Khi AI chạm vào quyền lợi con người, “thông minh” không còn đủ
Bài 02. Một tổ chức không thể quản trị điều mà các bộ phận gọi bằng những tên khác nhau
Bài 03. Không có triết học ẩn sau quyết định AI là một ảo tưởng nguy hiểm
Bài 04. Đạo đức không phải lớp kiểm tra cuối cùng của vòng đời AI
Bài 08. Chỉ số tin cậy phải dẫn đến quyết định có trách nhiệm
Bài 09. Trong tài chính, AI có thể phân phối cơ hội tiếp cận vốn
Bài 10. Trong y tế, độ chính xác không thay thế trách nhiệm lâm sàng
Bài 11. Giáo dục không được tối ưu hóa bằng cách thu hẹp con người thành một điểm số
Bài 12. Hạ tầng AI đáng tin cậy phải để tổ chức giữ được quyền quyết định ngày mai
Bài mở đầu series (loạt bài) Đạo đức AI: từ giá trị đến vận hành
Sau buổi demo, vẫn còn những câu hỏi dành cho người chịu trách nhiệm vận hành.
Có một khoảnh khắc rất đáng nhớ trong các dự án AI. Đó là lúc bản demo chạy mượt. Cả căn phòng cùng im một nhịp rồi sáng lên: công việc vốn mất vài giờ nay chỉ còn vài phút; một bảng số liệu rối bời bỗng thành bản tóm tắt gọn ghẽ; những câu hỏi lặp đi lặp lại đã có người trả lời.
Tôi hiểu niềm vui ấy. Nhưng sau tiếng vỗ tay, tôi thường muốn ngồi lại với người chịu trách nhiệm vận hành và hỏi thêm vài câu bình dị hơn. Nếu hệ thống trả lời sai một khách hàng đang cần được giúp đỡ, ai nhận ra đầu tiên? Nếu dữ liệu đầu vào đổi khác sau ba tháng, ai có trách nhiệm kiểm tra? Nếu một nhân viên cảm thấy phán đoán của máy đang không ổn, họ có đủ quyền để dừng lại không?
Những câu hỏi ấy ít hào nhoáng hơn một bản demo. Song chính ở đó, AI bắt đầu đi vào đời sống của một tổ chức.
Hãy hình dung một doanh nghiệp đưa chatbot vào xử lý yêu cầu hoàn tiền. Đây là tình huống minh họa để chúng ta cùng xem xét. Nhóm dự án đã kiểm thử nhiều tình huống; chatbot trả lời nhanh, lịch sự, giảm áp lực cho tổng đài. Vài tuần sau, một thay đổi trong chính sách nội bộ không được cập nhật đúng cách. Chatbot tiếp tục áp dụng quy định cũ, từ chối một số khách hàng đủ điều kiện. Nhân viên tuyến đầu tin vào câu trả lời của hệ thống. Khi khiếu nại xuất hiện, mọi người mới bắt đầu lần ngược lại: phiên bản chính sách nào đã được dùng, ai phê duyệt phạm vi trả lời, và vì sao không ai dừng hệ thống sớm hơn?
Lỗi có thể nằm ở dữ liệu, ở tích hợp, ở quy trình cập nhật. Nhưng trước những lỗi ấy đã có một quyết định: doanh nghiệp cho phép câu trả lời của chatbot trở thành căn cứ xử lý quyền lợi khách hàng.
Từ chỗ giúp trả lời nhanh hơn, AI đã được trao một phần quyền lực trong quan hệ giữa doanh nghiệp và khách hàng. Người bị từ chối hoàn tiền chịu hệ quả của sự ủy thác đó, dù họ có biết hệ thống hoạt động thế nào hay không.
Vì vậy, câu hỏi dẫn đường cho series (loạt bài) này là: ta nên trao quyền gì cho AI, ai chịu trách nhiệm về việc trao quyền ấy, và con người còn giữ được những lựa chọn nào?
Ta đang trao cho AI quyền gì?
Trong loạt bài này, tôi dùng khái niệm “quyền lực được ủy thác cho AI”, hay Delegated AI Agency, để gọi tên điều đang diễn ra. AI được phép lựa chọn hoặc thực hiện hành động trong một phạm vi, với dữ liệu, công cụ và quy trình mà tổ chức cho nó tiếp cận.
Một chatbot soạn câu trả lời để nhân viên duyệt có phạm vi quyền khác với chatbot được tự gửi quyết định từ chối cho khách hàng. Muốn xem xét trách nhiệm, chúng ta cần biết hệ thống đang được dùng theo cách nào. Chữ agency ở đây chỉ khả năng hành động và tạo hệ quả trong phạm vi được giao. Nó không mặc nhiên biến AI thành một chủ thể đạo đức hay chuyển trách nhiệm của con người và tổ chức sang máy.
Tôi đề xuất nhìn sự ủy thác ấy từ bốn chiều. Bản đồ dưới đây thuộc lớp [Nhận định mới] của loạt bài. Tôi dùng nó để đối thoại với cuốn sách và với thực tế vận hành.
Có nên trao quyền ấy không, và vì sao? Đó là câu hỏi của đạo đức AI (AI Ethics). Với chatbot hoàn tiền, doanh nghiệp cần cân nhắc quyền lợi của khách hàng bên cạnh lợi ích giảm tải tổng đài. Quyết định nào có thể giao cho máy? Trường hợp nào cần con người xem xét? Có những quyền lợi nào phải được bảo vệ, kể cả khi việc xử lý tốn thêm thời gian?
Ai có quyền trao, giới hạn và thu hồi? Đó là câu hỏi của quản trị AI (AI Governance). Trong nhiều cuộc trao đổi về AI, từ “trách nhiệm” được nhắc đến rất nhiều. Tôi luôn nghĩ đó là một từ đẹp, nhưng đẹp thôi chưa đủ. Trách nhiệm cần một địa chỉ. Với tình huống trên, phải xác định được ai duyệt phạm vi trả lời, ai chịu trách nhiệm về chính sách, ai xử lý khiếu nại và ai có quyền tạm dừng chatbot.
Hệ thống thực sự làm gì, và ta biết điều đó bằng cách nào? Đây là chiều bảo đảm trong vận hành (Operational Assurance). Người vận hành cần thấy chatbot đã dùng phiên bản chính sách nào, đã trả lời gì, những trường hợp nào được chuyển cho nhân viên. Họ cần kiểm tra được, can thiệp được và giữ lại dấu vết của những việc ấy. Quyền dừng chỉ có ý nghĩa khi người giữ quyền có thông tin, có thời gian và có sự bảo vệ đủ để sử dụng nó.
Sau khi trao quyền, con người còn lựa chọn được gì? Câu hỏi này dẫn tới quyền tự quyết trong sử dụng AI (AI Sovereignty). Khách hàng có đường yêu cầu xem xét lại quyết định không? Nhân viên có thể quyết định khác với câu trả lời của AI không? Doanh nghiệp có thể sửa, thay thế hoặc rút khỏi hệ thống khi cần không? Giữ quyền tự quyết đòi hỏi những khả năng rất cụ thể: hiểu điều khoản kiểm toán, giữ dữ liệu ở dạng có thể di chuyển, biết cách tiếp tục công việc khi một thành phần quan trọng ngừng hoạt động.
Quyền lựa chọn cần được chuẩn bị từ lúc đưa hệ thống vào sử dụng.
Bốn chiều này cùng soi vào một quyết định trao quyền. Ngay lúc cho chatbot xử lý yêu cầu hoàn tiền, ta đã phải nghĩ tới quyền lợi khách hàng, người chịu trách nhiệm, cách kiểm tra và khả năng rút lại quyền đã giao. Đợi tới khi muốn dừng mới tìm đường rút lui thì có thể đã quá muộn.
Vì sao tên sách bắt đầu bằng đạo đức?
Đó cũng là lý do cuốn sách mang tên Đạo đức AI: Nguyên tắc và Thực hành. Governance cho ta những việc rất cụ thể: ai phê duyệt, kiểm thử gì, nhật ký nào cần lưu, sự cố báo cho ai. Những việc ấy cần thiết. Nhưng trước mọi biểu mẫu vẫn còn một câu hỏi: ta có nên theo đuổi mục tiêu này và trao quyền cho AI đến mức ấy hay không?
Governance có thể yêu cầu hệ thống phải công bằng, có người phê duyệt và giải thích được quyết định. Nó không tự trả lời công bằng là gì, vì sao con người cần được giải thích, hay khi nào một người có đủ thông tin, năng lực, thời gian và thẩm quyền để sự phê duyệt của họ có ý nghĩa. Nếu những điều đó chưa rõ, cái nút “Approve” có thể chỉ là một nghi lễ hành chính.
Đạo đức đặt các câu hỏi về giá trị và giới hạn trước khi tổ chức biến chúng thành thẩm quyền, kiểm soát và bằng chứng. Rồi bằng chứng từ vận hành lại buộc ta xem xét các giá trị ấy. Có lẽ vì thế, chữ Ethics đứng trước trong tên sách. Tôi đã kể kỹ hơn về lựa chọn này, và về con đường dẫn tới cuốn sách, trong bài Vì sao tôi viết Đạo đức AI trên website tác giả.
Những chỗ tổ chức chưa nối được với nhau
Quay lại tình huống chatbot. Doanh nghiệp có thể đã cam kết bảo vệ khách hàng, đã giao người quản lý chính sách, đã kiểm thử hệ thống. Vậy vì sao quy định cũ vẫn được dùng để từ chối hoàn tiền?
Cần xem những phần đó có khớp nhau trong công việc hằng ngày hay không. Người sửa chính sách có biết hệ thống nào đang dùng chính sách ấy? Người giám sát có đủ năng lực nhận ra câu trả lời sai? Nhân viên nhận khiếu nại có quyền yêu cầu dừng? Và khi cần kiểm tra, còn dấu vết nào để lần lại quyết định?
Tôi dùng khoảng trống cấu trúc (Structure Gap) để tìm những chỗ giá trị, thẩm quyền, năng lực, kiểm soát và bằng chứng không khớp nhau. Nó có thể nằm trong một cuộc họp không có người quyết định cuối cùng; trong một chính sách không ai đọc khi công việc gấp; trong một bảng theo dõi đầy số liệu nhưng không nêu người phải hành động; trong một nhân viên biết hệ thống có vấn đề nhưng không biết gọi ai, cũng không dám tự dừng.
Có người nhận ra vấn đề, nhưng chưa có đường để họ yêu cầu sửa hoặc dừng hệ thống.
Có lúc khoảng trống nằm ngay ở cơ sở trao quyền: tổ chức chưa cân nhắc đầy đủ quyền lợi bị ảnh hưởng. Có lúc người được giao giám sát thiếu kỹ năng hoặc không có quyền can thiệp. Cũng có lúc mọi người đều tin đã làm đúng, nhưng không còn bằng chứng để kiểm tra.
Vì thế, Structure Gap là cách chẩn đoán các vết nứt giữa bốn chiều vừa nêu. Muốn biết vết nứt nào đang tồn tại, ta phải trở lại quyết định cụ thể và những người đang thực hiện nó. Một danh sách nguyên tắc chung chưa trả lời được điều đó.
Khi bằng chứng khiến ta phải nghĩ lại
Khi một quyết định AI bị đặt câu hỏi, tổ chức cần nhớ được mình đã biết gì, đã cân nhắc gì, đã cho phép điều gì và đã sửa ra sao. Bằng chứng có thể rất cụ thể: hồ sơ phê duyệt, phạm vi sử dụng, kết quả kiểm thử, phiên bản chính sách, nhật ký quyết định, lần nhân viên can thiệp, hồ sơ sự cố và việc khắc phục sau đó.
Nhiều người nghe đến đây sẽ nghĩ ngay đến hồ sơ và thủ tục. Tôi lại nhìn nó như ký ức. Một tổ chức không có ký ức về các quyết định quan trọng sẽ khó học từ sai lầm. Mỗi sự cố lại trở thành một lần bắt đầu từ đầu; mỗi nhân sự rời đi mang theo một phần hiểu biết. Ký ức ấy giúp ta phân biệt điều gì đã được thử nghiệm với điều gì chỉ được hy vọng, cảnh báo nào đã được nhìn thấy với cảnh báo nào đã bị bỏ qua.
Giữ lại dấu vết để biết cần sửa hệ thống, cách quản trị hay chính quyết định trao quyền ban đầu.
Trong tình huống hoàn tiền, cập nhật lại chính sách có thể xử lý lỗi trước mắt. Nhưng người đã phê duyệt phạm vi của chatbot còn phải hỏi: với khả năng giám sát hiện có, có nên tiếp tục để hệ thống trả lời theo cách khiến khách hàng bị từ chối quyền lợi? Hay cần thu hẹp phạm vi, chuyển những quyết định đó về cho con người?
Tôi gọi việc quay lại xem xét ấy là vòng phản tư: giá trị định hướng việc trao quyền; AI hành động trong phạm vi được giao; bằng chứng từ vận hành buộc ta xem lại cả cách quản trị lẫn lý do đã trao quyền. Có khi tổ chức phải điều chỉnh cách ưu tiên các giá trị, sửa cơ chế quản trị, rồi mới quyết định giữ nguyên, thu hẹp hay chấm dứt sự ủy thác.
Điều tôi muốn giữ xuyên suốt loạt bài là thái độ sẵn lòng nghĩ lại. Một quyết định từng có lý do thuyết phục vẫn cần được xem xét khi người chịu tác động lên tiếng, khi kiểm soát không hoạt động như dự kiến, hoặc khi quyền lựa chọn của con người đang mất dần.
Một lời hẹn cho mười hai bài tiếp theo
Tôi viết series này cho những người đang phải quyết định đưa AI vào công việc và chịu trách nhiệm khi nó được sử dụng. Cuốn Đạo đức AI: Nguyên tắc và Thực hành là điểm tựa để cùng đọc, chất vấn và mở rộng các câu hỏi ấy. Mười hai bài tiếp theo đi theo thứ tự mười hai chương, mỗi bài đào sâu một vấn đề.
Ở Bài 01 đến Bài 03, chúng ta bắt đầu từ quyền lợi con người, tìm một ngôn ngữ chung giữa các bộ phận, rồi xem xét cơ sở của những phán đoán đạo đức. Khi hiệu quả và công bằng, riêng tư và an toàn kéo quyết định về những hướng khác nhau, người chịu trách nhiệm cần giải thích được lựa chọn của mình.
Từ Bài 04 đến Bài 08, những lựa chọn đó đi vào thiết kế vòng đời hệ thống, cơ chế quản trị, đánh giá rủi ro và tác động, nghĩa vụ tuân thủ, rồi các chỉ số tin cậy. Chúng ta sẽ hỏi ai được quyết định ở từng chỗ, kiểm soát nào phải có và bằng chứng nào đủ để yêu cầu sửa hoặc dừng.
Bài 09 đến Bài 12 đưa các câu hỏi vào tài chính, y tế, giáo dục, sản xuất, viễn thông và hành chính công. Khi quyết định AI liên quan đến cơ hội tiếp cận vốn, sức khỏe, việc học hay dịch vụ công, mỗi lĩnh vực có những con người và điều kiện vận hành cần được nhìn cho kỹ.
Đó là thứ tự đọc tôi chọn. Ở bất kỳ bài nào, chúng ta cũng có thể phải quay về hỏi lại: quyền này có nên giao cho AI hay không? Quyền tự quyết cần được xét từ đầu, dù tới bài cuối chúng ta mới đi sâu vào nó trong hạ tầng và dịch vụ công.
Mang theo một quyết định của chính mình
Trước khi đọc bài tiếp theo, tôi mời bạn chọn một hệ thống đang được dùng trong tổ chức mình. Có thể là chatbot, công cụ sàng lọc hồ sơ, hệ thống dự báo hay trợ lý nội bộ. Hãy chọn một quyết định mà tổ chức đang để AI tham gia, rồi thử viết rõ AI được phép làm đến đâu.
Sau đó, tìm người có thẩm quyền cho phép AI làm việc đó và thu hồi quyền đã giao. Cùng người đó xem lại lý do đã giao, quyền lợi cần bảo vệ, cách kiểm tra, những dấu vết còn giữ được và khả năng chuyển quyết định về cho con người. Chỗ nào chưa biết, cứ ghi là chưa biết.
Bạn có thể mang quyết định ấy theo suốt mười hai bài. Sau mỗi bài, xem mình có muốn sửa lại câu trả lời ban đầu không. Người có quyền trao và thu hồi cũng cần biết khi nào phải xem lại: khi có khiếu nại, khi kiểm tra cho thấy không can thiệp được, hoặc khi hệ thống tạo tác động khác với điều đã dự tính.
Nếu ngày mai một khách hàng bị từ chối sai, ai trong tổ chức bạn có thể sửa quyết định ấy, và họ sẽ dựa vào đâu?
Vị trí trong bản đồ
[Nhận định mới] Hộp dưới đây áp dụng bản đồ vào tình huống chatbot minh họa. Các vai trò và kiểm soát nêu ở đây là những điều cần xác định, chưa phải bằng chứng về một doanh nghiệp cụ thể. Bài đề dẫn giới thiệu đủ bốn chiều, lấy việc trao và thu hồi quyền làm điểm nối.
Quyền lực được ủy thác. Chatbot trả lời yêu cầu hoàn tiền; câu trả lời được dùng làm căn cứ từ chối khách hàng. Cần làm rõ hệ thống chỉ soạn để người duyệt hay được tự gửi kết quả xử lý.
Tính chính đáng về giá trị. Xem xét lợi ích giảm tải tổng đài cùng quyền được xử lý đúng chính sách và được yêu cầu xem xét lại của khách hàng; xác định giới hạn của việc giao quyết định cho AI.
Thẩm quyền và trách nhiệm. Xác định người phê duyệt phạm vi, người phụ trách chính sách, người xử lý khiếu nại và người có quyền thu hồi quyền của chatbot. Trách nhiệm thuộc về con người và tổ chức.
Kiểm soát và bằng chứng vận hành. Cần kiểm tra phiên bản chính sách, kết quả kiểm thử, nhật ký trả lời, việc chuyển cho nhân viên và khả năng dừng; lưu hồ sơ can thiệp, sự cố và khắc phục.
Quyền tự quyết cần giữ. Khách hàng có đường yêu cầu xem xét lại; nhân viên có đủ thông tin, năng lực và quyền quyết định khác với AI; tổ chức có thể sửa, thay thế hoặc rút khỏi hệ thống.
Vết nứt xuyên hệ thống. Dùng Structure Gap để kiểm tra cơ sở trao quyền và chỗ không khớp giữa người sửa chính sách, người giám sát, quyền can thiệp và dấu vết quyết định.
Phản tư và điều chỉnh. Khi khiếu nại hoặc kiểm tra cho thấy tác động sai hay không can thiệp được, người có quyền trao và thu hồi cùng người phụ trách chính sách, vận hành cần xem lại cơ sở trao quyền và cơ chế quản trị; cân nhắc thu hẹp hoặc chấm dứt ủy thác.
Về cuốn sách và nguồn của bài viết
[Sách]: Loạt bài đối thoại với cuốn Đạo đức AI: Nguyên tắc và Thực hành của Đào Trung Thành. Bài đề dẫn này không sử dụng trích dẫn nguyên văn hay gán luận điểm cho một chương cụ thể.
[Nhận định mới]: Bản đồ quyền lực được ủy thác cho AI, bốn chiều xem xét, lăng kính Structure Gap, vòng phản tư và lý do tên sách bắt đầu bằng “Đạo đức AI” là khung lập luận của loạt bài. Tình huống chatbot là ví dụ minh họa, không phải báo cáo về một sự cố đã xác minh.
[Nguồn ngoài]: Có thể đọc thêm NIST AI RMF 1.0 và Khuyến nghị về đạo đức AI của UNESCO. Đây là tài liệu tham khảo thêm; bản đồ đề xuất trong bài không được gán cho hai nguồn này.
Bài tiếp theo
Bài 01: Khi AI chạm vào quyền lợi con người, “thông minh” không còn đủ
Từ quyết định trao quyền, chúng ta sẽ nhìn kỹ hơn vào người chịu hệ quả: khi AI xử lý sai, khách hàng, người bệnh hay người học mất điều gì, và tổ chức phải xem xét những gì ngoài độ chính xác của mô hình?
Cuốn sách đồng hành cùng series (loạt bài)
Đạo đức AI: Nguyên tắc và Thực hành của Đào Trung Thành do Nhà xuất bản Khoa học - Công nghệ - Truyền thông xuất bản năm 2026; Công ty Cổ phần Xuất bản Khoa học và Giáo dục Thời Đại (Times Books) phát hành. Sách có 616 trang, ISBN 978-604-45-2705-5.
Khám phá cuốn sách tại website chính thức.
#DaoDucAI #DelegatedAIAgency #OperationalAssurance #AISovereignty