Bộ công cụ giảm thiểu rủi ro AI tiềm ẩn

Giới thiệu & Ý nghĩa của “rủi ro AI ẩn”

Khác với các rủi ro kỹ thuật dễ thấy như deepfake hay sai lệch dữ liệu, rủi ro AI ẩn là những hậu quả không mong muốn phát sinh từ cách con người và tổ chức tương tác với AI. Chúng thường không gây sốc nhưng có thể tích tụ và dẫn đến khủng hoảng nếu không được nhận diện sớm.

Ví dụ điển hình là khi AI tự động hóa các công việc đơn giản, khiến nhân viên phải tập trung hoàn toàn vào các nhiệm vụ phức tạp. Điều này có thể gây mệt mỏi tâm lý, giảm động lực và năng suất — một dạng rủi ro không dễ phát hiện bằng các biện pháp kỹ thuật.

6 nhóm rủi ro hành vi và tổ chức chính

Toolkit phân loại rủi ro thành 6 nhóm, mỗi nhóm đi kèm các câu hỏi gợi mở để giúp tổ chức phát hiện sớm:

1. Quality Assurance: Đầu ra AI có thể sai lệch hoặc chất lượng thấp; người dùng không kiểm tra kỹ do áp lực thời gian; tổ chức kỳ vọng quá cao vào quy trình tự động.

2. Task–Tool Mismatch: Dùng AI cho nhiệm vụ không phù hợp; người dùng không hiểu rõ giới hạn của công cụ; thử nghiệm quá mức.

3. Perceptions, Emotions and Signalling: Lo lắng mất việc, mất vai trò; niềm tin vào AI giảm nếu có lỗi; tổ chức gửi tín hiệu ưu tiên năng suất hơn chất lượng.

4. Workflow and Organisational Challenges: Tích hợp AI gây thêm gánh nặng (đào tạo, kiểm tra); áp dụng không đồng đều; mất kỹ năng con người; áp lực thay đổi nhanh.

5. Ethics: Vi phạm chuẩn mực đạo đức, luật pháp; tạo động lực sai lệch; gia tăng bất bình đẳng; khó phát hiện nếu hậu quả xảy ra sau thời gian dài.

6. Human Connection and Technological Overreliance: Phụ thuộc quá mức vào công nghệ; giảm tương tác con người; mất phản hồi xã hội; người dùng cảm thấy bị bỏ rơi.

Quy trình thực tế để giảm thiểu rủi ro – Toolkit đề xuất 5 bước triển khai:

1. Thiết lập nhóm đa ngành: 

•  Gồm kỹ thuật, thiết kế, nhân sự, chuyên gia hành vi, quản lý,... để đảm bảo đa góc nhìn.

 2. Xác định rủi ro tiềm ẩn

•  Dùng câu hỏi gợi mở từ 6 nhóm rủi ro để thực hiện “pre-mortem” (dự đoán trước hậu quả).
•  Thu thập thông tin từ người dùng thực qua khảo sát, phỏng vấn, phân tích cách họ sử dụng AI.

 3. Đánh giá & ưu tiên rủi ro

•  Xác định khả năng xảy ra và mức độ ảnh hưởng.
•  Lập bảng “risk register” để tổng hợp và chọn lọc các rủi ro ưu tiên.

 4. Phát triển chiến lược giảm thiểu

•  Áp dụng biện pháp kỹ thuật (cải thiện đầu ra, thêm kiểm tra), tổ chức (đào tạo), quy trình (chính sách nội bộ), truyền thông nội bộ và bên ngoài.

 5. Theo dõi & đánh giá liên tục

•  Thiết lập cơ chế review định kỳ, họp nhóm, thu nhận phản hồi người dùng.
•  Ghi lại bài học kinh nghiệm để cải thiện.

• Human-in-the-loop: Người giám sát phải có chuyên môn, thời gian và quyền phản đối đầu ra AI không phù hợp.
• Đào tạo liên tục: Không chỉ cảnh báo rủi ro mà cần hướng dẫn cụ thể theo vai trò và tác vụ.
• Lãnh đạo cấp cao: Cần hiểu rõ điểm mạnh/yếu của AI để ra quyết định triển khai hợp lý.
• Thiết kế trải nghiệm người dùng: Phù hợp cả với người không rành công nghệ, tránh thiên vị nhóm “early adopters”.

Hạn chế & phạm vi áp dụng

• Toolkit tập trung vào AI có giao diện người dùng, không áp dụng cho hệ thống backend tự động hoàn toàn.
• Tổ chức nhỏ cần chọn trọng tâm do hạn chế nguồn lực.
• Dù được phát triển trong khu vực công của Anh, các nguyên tắc và quy trình có thể áp dụng rộng rãi cho nhiều tổ chức khác.

Cô Lê Thụy Đoan Trang – Khoa CNTT – ĐT (dịch và tổng hợp)

(https://assets.publishing.service.gov.uk/media/683ef9112c163eb35f1e453f/The_Mitigating_Hidden_AI_Risks_Toolkit.pdf)