Vì sao tác động của AI lại lớn đến như vậy?

Một số mối lo mang tính kỹ thuật, như các thuật toán “hộp đen” khó giải thích, dữ liệu thiên lệch hay những quyết định tự động vượt ngoài tầm kiểm soát. Những mối lo khác lại mang tính xã hội, bao gồm việc con người mất quyền chủ động, bị giám sát quá mức, và việc AI có thể khuếch đại cả hành vi tốt lẫn xấu ở quy mô rất lớn. Trên thực tế, rủi ro lớn không đến từ viễn cảnh một siêu trí tuệ AI mất kiểm soát, mà từ những sai sót rất đời thường: hệ thống AI chưa được kiểm chứng đầy đủ, quy trình thu thập dữ liệu thiếu minh bạch và việc không rõ ai chịu trách nhiệm khi sự cố xảy ra.

Và đó cũng chính là mục tiêu cốt lõi của một khung AI đáng tin cậy - đảm bảo AI được phát triển và triển khai theo cách có trách nhiệm, an toàn và thực sự hướng đến con người, thay vì chỉ tối ưu cho lợi ích ngắn hạn.

Vậy AI đáng tin cậy là gì?

Về cơ bản, AI đáng tin cậy là AI mà chúng ta có thể đặt niềm tin - không chỉ vì hệ thống đó hoạt động chính xác, mà còn vì cách nó vận hành phù hợp với các giá trị của con người và những kỳ vọng chung của xã hội.

Khi nói về AI đáng tin cậy, bạn sẽ thường xuyên nghe đến những khái niệm như đạo đức, trách nhiệm, minh bạch, quản trị hay khả năng giải thích. Tuy nhiên, đây không phải là những ý tưởng rời rạc, mà là các “lớp” có mối liên kết chặt chẽ với nhau. Hãy hình dung khung AI đáng tin cậy như một chiếc bánh, bởi những khái niệm phức tạp thường trở nên dễ hiểu hơn khi được minh họa bằng một phép so sánh quen thuộc. AI đáng tin cậy chính là chiếc bánh đó, còn các “nguyên liệu” chính là những thành phần mà chúng ta sắp cùng nhau tìm hiểu.

Trước khi đi sâu vào từng lớp cụ thể, hãy cùng nhìn tổng quan xem mỗi lớp đóng góp điều gì vào việc xây dựng một hệ thống AI đáng tin cậy:

• AI có đạo đức (Ethical AI) tập trung vào việc đảm bảo các hệ thống AI phù hợp với những giá trị cốt lõi của con người, như công bằng, hòa nhập và giảm thiểu tác hại có thể xảy ra.
• AI có trách nhiệm (Responsible AI) nhấn mạnh vai trò của giám sát, trách nhiệm giải trình và cách sử dụng phù hợp, nhằm đảm bảo AI được triển khai một cách cẩn trọng và có kiểm soát, chứ không chỉ chạy theo tốc độ hay hiệu suất.
• AI minh bạch (Transparent AI) đề cập đến khả năng “nhìn thấy được” cách AI vận hành từ việc hệ thống hoạt động ra sao, sử dụng dữ liệu gì và các quyết định được đưa ra như thế nào.
• AI được quản trị (Governed AI) bổ sung cấu trúc thông qua chính sách, kiểm toán và quản lý rủi ro, nhằm đảm bảo các hệ thống AI vận hành ổn định, có thể dự đoán và chịu sự kiểm soát theo tiêu chuẩn rõ ràng.
• AI có khả năng giải thích (Explainable AI) giải quyết bài toán “hộp đen”, giúp con người hiểu được vì sao AI đưa ra một quyết định cụ thể, ngay cả trong những hệ thống phức tạp.

• Thiết kế hệ thống thúc đẩy sự công bằng, bình đẳng và bao trùm, thay vì tạo lợi thế cho một nhóm nhỏ.
• Chủ động nhận diện và giảm thiểu các thiên lệch có hại trong dữ liệu và mô hình AI.
• Đảm bảo AI được sử dụng theo cách tôn trọng phẩm giá và quyền con người.
• Khuyến khích sự đa dạng, không chỉ trong dữ liệu đầu vào mà cả trong đội ngũ xây dựng và phát triển hệ thống AI.
• Hướng tới lợi ích cho số đông, thay vì chỉ phục vụ một nhóm người hay tổ chức nhất định.
• Duy trì quyền kiểm soát, quyền tự chủ và quyền ra quyết định của con người trong cách AI được sử dụng.

• Xác lập rõ trách nhiệm và đảm bảo việc sử dụng AI không vi phạm luật pháp cũng như các quy định hiện hành.
• Giữ con người trong vòng kiểm soát, đặc biệt đối với các quyết định có mức độ ảnh hưởng cao.
• Đảm bảo an toàn và giảm thiểu các hệ quả ngoài ý muốn trong suốt quá trình vận hành AI.
• Xây dựng quy trình phát hiện, báo cáo và xử lý sự cố, khi hệ thống gặp lỗi hoặc hoạt động không như mong đợi.
• Hạn chế thiết kế AI gây xáo trộn lớn đến lực lượng lao động, đặc biệt là những tác động tiêu cực.
• Áp dụng các biện pháp bảo vệ quyền riêng tư và an toàn dữ liệu cá nhân.
• Tính đến khả năng AI bị lạm dụng hoặc sử dụng sai mục đích ngay từ giai đoạnthiết kế.
• Khuyến khích việc sử dụng AI một cách có cân nhắc và được quản lý phù hợp.

• Làm rõ các lựa chọn thiết kế và logic ra quyết định của hệ thống cho các bên liên quan phù hợp.
• Công khai nguồn dữ liệu, dữ liệu huấn luyện và các giả định của mô hình ở mức cần thiết.
• Cung cấp tài liệu rõ ràng về mục đích sử dụng và cách hệ thống được thiết kế để vận hành.
• Giúp người dùng hiểu được vì sao một quyết định được đưa ra và những dữ liệu nào đã ảnh hưởng đến quyết định đó.
• Minh bạch về việc sản phẩm hoặc dịch vụ có sử dụng AI hay không. 
• Cho phép nhìn thấy các nguy cơ thiên lệch của hệ thống và cách chúng đang được kiểm soát hoặc giảm thiểu.
• Đảm bảo người dùng có thể đưa ra sự đồng ý một cách có ý nghĩa khi tương tác với AI.
• Truyền đạt rõ giới hạn và phạm vi sử dụng phù hợp của hệ thống AI.