Điểm công dân số và quyền được thở
Sáng nay tôi ngồi nghe một anh bạn kể chuyện làm thủ tục. Anh nói nửa đùa nửa thật: “Giờ đi đâu cũng thấy mình như có cái nhiệt kế gắn ở trán. Chưa đo, chưa chấm, mà đã thấy… bị đo rồi.” Cảm giác ấy không phải chuyện công nghệ. Nó là chuyện về quyền tự chủ. Về việc chúng ta được sống như một con người, hay bị thu nhỏ lại thành một “hồ sơ”.
Tôi muốn nói rõ một điều trước khi bàn sâu là nếu có một hệ thống chấm điểm hay phân hạng công dân số, nó chỉ đáng để tồn tại khi giữ được ba nguyên tắc mà OECD nhắc đi nhắc lại trong các khung AI governance: rule of law, human rights, privacy. Luật pháp là sàn, nhân quyền là trần, quyền riêng tư là khoảng thở.
Và cũng cần bỏ một hiểu lầm phổ biến. “Social credit” ở Trung Quốc thường không phải kiểu một điểm số duy nhất gắn lên mọi công dân như phim viễn tưởng. Nó thiên về các cơ chế hồ sơ tuân thủ, danh sách, chế tài theo vụ việc và theo lĩnh vực. Hiểu đúng để khỏi tự hù dọa mình, và để bàn đúng chỗ cần bàn.
Nếu phải tóm gọn Trung Quốc cho đúng, đó là một hệ sinh thái (ecosystem) hơn là một máy chấm điểm.
Lớp thứ nhất: hồ sơ và danh sách. Nổi bật nhất là danh sách “người không thực hiện phán quyết” của tòa án, gắn với các hạn chế tiêu dùng mức cao, như chuyện vé máy bay hay tàu cao tốc trong một số trường hợp.
Lớp thứ hai: cơ chế phối hợp liên ngành. Cái làm nó “nặng” không phải là một con số, mà là nguyên tắc kiểu: một khi bị xác định “không đáng tin” ở một mảng, thì nhiều cơ quan khác cùng áp hạn chế. Hiệu ứng lan truyền (spillover) mới là sức ép.
Lớp thứ ba: trọng tâm doanh nghiệp nhiều hơn cá nhân. Nhiều nghiên cứu chỉ ra hệ thống này tập trung mạnh vào tuân thủ của doanh nghiệp, đặc biệt các ngành có rủi ro cao như an toàn thực phẩm, môi trường, tài chính.
Lớp thứ tư: điểm số kiểu “thẻ thành viên” ở một số địa phương. Có nơi thử điểm, đổi ưu đãi, nhưng không đồng nhất toàn quốc. Thậm chí ở chính phủ trung ương của Trung Quốc từng bày tỏ không hài lòng với việc chấm điểm tràn lan.
Nói vậy để thấy rằng điều cần lo không phải là “một con số thần bí”, mà là cấu trúc thưởng phạt và khả năng mở rộng chức năng của bất kỳ hệ thống nào giống vậy. Nhưng hiểu đúng không có nghĩa là thả trôi. Vấn đề nằm ở chỗ khác. Hệ thống nào biến hành vi thành dữ liệu, dữ liệu thành quyền lợi, thì sớm muộn cũng tạo ra sức ép tuân phục. Quyền lực thời nay không cần quát. Nó chỉ cần “gợi ý” bằng ưu đãi hay tạo ra các “chuẩn mực” (normalize).
Vậy một công dân muốn “kháng cự” mà vẫn tuân thủ pháp luật thì làm gì? Tôi gọi đó là kháng cự kiểu thế kỷ 21: không đập phá, không đối đầu, mà là giữ ranh giới. Giữ phẩm giá. Giữ quyền được thở.
Vì là một nhà tư vấn chiến lược, tham gia đóng góp cho các luật Công nghiệp, Công nghệ số, luật Trí tuệ nhân tạo, Khung Kiến trúc dữ liệu quốc gia, tôi nghĩ mình có thẩm quyền để góp ý.
Và dưới đây là bốn nguyên tắc, và đi kèm là vài dispositif (thiết chế). Tôi dùng từ này theo Foucault, nghĩa là một bộ cơ chế gồm luật, quy trình, giao diện, và thói quen tổ chức, được thiết kế để quyền lực không trượt khỏi đường ray. Những nguyên tắc này vừa cho người thiết kế hệ thống, vừa cho người dùng tự bảo vệ mình.
1.Tối thiểu hóa dữ liệu (data minimization).
Hệ thống chỉ nên thu cái cần thiết cho mục tiêu công vụ cụ thể. Không vì “tiện” mà gom hết.
Dispositif gợi ý:
- Chỉ bật thu thập dữ liệu theo từng giao dịch, không bật mặc định.
- Tách dữ liệu định danh và dữ liệu hành vi, giảm khả năng ghép thành chân dung toàn diện.
- Có thời hạn lưu trữ (retention) rõ ràng, hết hạn thì xóa, không tích lũy vô thời hạn.
2.Giới hạn mục đích (purpose limitation) và chống trượt mục tiêu (mission creep).
Hôm nay nói là để khuyến khích làm thủ tục nhanh. Mai có thể muốn dùng để ưu tiên, rồi để xếp loại rủi ro, rồi để định hình hành vi.
Dispositif gợi ý:
- Mỗi mục đích có một “hộp” dữ liệu riêng, không được dùng chéo nếu không có căn cứ pháp lý mới.
- Có điều khoản “hoàng hôn” (sunset clause): sau một thời gian phải đánh giá lại, không mặc định kéo dài.
- Báo cáo minh bạch định kỳ: dữ liệu nào được dùng cho mục đích nào, ai phê duyệt.
3.Có quy trình công bằng (due process): giải thích được, khiếu nại được, sửa được.
Nếu có điểm hay phân hạng, phải có câu trả lời rõ: tiêu chí nào, dữ liệu đến từ đâu, ai chịu trách nhiệm.
Dispositif gợi ý:
- Một nút “tôi không đồng ý” ngay trong giao diện, dẫn tới quy trình khiếu nại.
- Nhật ký truy cập (audit log): ai xem dữ liệu của tôi, xem lúc nào, vì lý do gì.
- Kiểm toán độc lập theo chu kỳ, và công bố kết quả ở mức người dân đọc được.
4.Thiết kế “khoảng thở” (breathing space) cho cả người dân lẫn người thực thi.
Đừng biến người dân thành mục tiêu theo dõi từng nhịp, và cũng đừng biến cán bộ thực thi thành người bị giám sát kiểu KPI từng phút.
Dispositif gợi ý:
- Ở dịch vụ thiết yếu, luôn có lựa chọn offline hoặc kênh hỗ trợ con người.
- Không thưởng phạt dựa trên dữ liệu quá riêng tư, và không biến “mức độ dùng app” thành thước đo đạo đức.
- Tách chỉ tiêu phục vụ khỏi chỉ tiêu thu dữ liệu: đánh giá cán bộ bằng chất lượng xử lý, không phải bằng số lượng ép người dân đăng ký.
- Cơ chế bảo vệ người thực thi trước áp lực thành tích: có hướng dẫn rõ về ranh giới dữ liệu nào không được yêu cầu. Đây là phần hay bị quên.
Đừng biến người dân thành mục tiêu theo dõi từng nhịp, và cũng đừng biến cán bộ thực thi thành người bị giám sát kiểu KPI từng phút. Nếu người thực thi bị chấm điểm bởi số lượng “đẩy” công dân vào app, họ sẽ vô thức ép người dân thú tội dữ liệu. Nếu người dân luôn cảm thấy mọi thứ phải “đăng nhập” mới được sống, họ sẽ học cách giả vờ, hoặc kiệt sức.
Khoảng thở là gì?
(i) Có lựa chọn offline ở các dịch vụ thiết yếu. Không biến mọi tương tác thành dữ liệu vĩnh viễn.
(ii) Không thưởng phạt dựa trên những chỉ dấu quá riêng tư.
(iii) Đánh giá hiệu quả công vụ bằng chất lượng phục vụ, không phải bằng mức độ “thu dữ liệu”.
Stoicism có một câu rất hay, đại ý là ta không kiểm soát được gió, nhưng kiểm soát được cách mình căng buồm. Ở đây, “căng buồm” là gì? Là bạn có thể tuân thủ pháp luật, làm đúng nghĩa vụ, nhưng vẫn giữ ranh giới dữ liệu, giữ đời sống riêng, giữ quyền không biến mọi khoảnh khắc thành “bằng chứng số”.
Chấm điểm xã hội, nếu có, nên là công cụ để phục vụ con người, chứ không phải cái khuôn để nắn con người. Tôi muốn kết bằng một câu hỏi, nhẹ thôi nhưng khó:
Nếu ngày mai mọi thứ đều có điểm, bạn muốn điểm đó phản ánh đức hạnh và đóng góp thật, hay chỉ phản ánh mức độ sẵn sàng bị đo đạc?