Đưa AI vào công việc với quy tắc rõ ràng về dữ liệu, quyết định và hành động tự động. Quản trị AI đưa những quy tắc đó vào cách thiết kế và vận hành hệ thống.
Tám nhóm thực hành dưới đây cụ thể hóa quản trị AI trong hoạt động phát triển và vận hành hằng ngày. Chúng tôi tham khảo Hướng dẫn AI cho doanh nghiệp của Nhật Bản (phiên bản 1.2) như một tài liệu tham khảo quốc tế và điều chỉnh theo từng dự án. Việc áp dụng tại Việt Nam phải phù hợp pháp luật Việt Nam; tài liệu tham khảo không thay thế yêu cầu pháp lý.
Dữ liệu của bạn không được dùng để huấn luyện hoặc tinh chỉnh mô hình nếu chưa có thỏa thuận rõ ràng bằng văn bản. Chúng tôi rà soát điều khoản dịch vụ AI bên ngoài để ngăn việc sử dụng dữ liệu huấn luyện ngoài phạm vi cho phép.
Chúng tôi xác định AI được tự làm gì, khi nào cần người phê duyệt và ai chịu trách nhiệm cuối cùng.
Khi hệ thống hỗ trợ, chúng tôi thiết kế khả năng truy vết qua nguồn tham chiếu và hồ sơ kết quả, quyết định, hành động của tác nhân AI.
An toàn thông tin và quản trị AI bổ trợ cho nhau. An toàn thông tin bảo vệ dữ liệu và hệ thống; quản trị AI xác định cách lựa chọn, đánh giá, cấp quyền và giám sát mô hình, tác nhân AI.
Địa điểm xử lý dữ liệu, quyền truy cập, dịch vụ được phê duyệt, quy trình phát triển an toàn và ứng phó sự cố xác định cách bảo vệ thông tin xuyên suốt dự án.
Xem chính sách bảo mật thông tinQuy tắc sử dụng dữ liệu, đánh giá mô hình, phạm vi hành động, giám sát của con người, truy vết và kiểm thử bảo mật riêng cho AI giúp duy trì hoạt động trong giới hạn đã thống nhất.
Mỗi nhóm trình bày hướng kiểm soát, cách áp dụng trong dự án và tài liệu có thể hỗ trợ đánh giá kỹ thuật, rủi ro của khách hàng. Biện pháp cụ thể được thống nhất theo hệ thống và mức độ rủi ro.
Chúng tôi chỉ dùng dữ liệu khách hàng giao xử lý cho mục đích dự án đã thống nhất. Huấn luyện hoặc tinh chỉnh mô hình bằng dữ liệu đó cần có thỏa thuận bằng văn bản về phạm vi sử dụng, cùng căn cứ xử lý và sự đồng ý của chủ thể dữ liệu nếu pháp luật yêu cầu.
Bảng phân loại xử lý dữ liệu, thỏa thuận sử dụng dữ liệu huấn luyện, quy định lưu nhật ký
Chúng tôi đánh giá mô hình theo yêu cầu bảo mật, chất lượng, tốc độ phản hồi và tổng chi phí của dự án, đồng thời ghi rõ căn cứ đề xuất cấu hình.
Bảng so sánh mô hình (tiêu chí, kết quả, lý do lựa chọn), sơ đồ kiến trúc thể hiện cách thay mô hình
Phạm vi AI tự thực hiện được xác định theo ảnh hưởng nghiệp vụ và rủi ro. Hành động cần phê duyệt, chuyển cấp xử lý hoặc biện pháp bổ sung được thống nhất khi thiết kế.
Sơ đồ phê duyệt, danh sách quyền công cụ, điều kiện chuyển cấp xử lý
Tiêu chí đánh giá phù hợp mục đích được xác định trước khi triển khai. Nghĩa vụ nghiệm thu của hợp đồng phát triển và mục tiêu kiểm chứng PoC được quy định riêng; không thể bảo đảm từng kết quả riêng lẻ của AI.
Kế hoạch đánh giá, báo cáo kết quả đo kiểm, kết quả kiểm thử hồi quy
Chúng tôi thiết kế khả năng truy vết phù hợp để điều tra kết quả và hành động AI trong giới hạn đã thống nhất về ghi nhật ký, quyền riêng tư và lưu giữ.
Định nghĩa trường nhật ký, mẫu nhật ký kiểm tra, quy trình lưu giữ và xóa
Chúng tôi kết hợp nhiều lớp kiểm soát để xử lý rủi ro như chèn chỉ dẫn trái phép, dùng công cụ ngoài quyền, lộ dữ liệu và đưa nguồn tri thức không an toàn vào hệ thống.
Danh sách hạng mục kiểm thử bảo mật AI, kết quả kiểm thử, tài liệu thiết kế phân quyền
Thay đổi đáng kể về mô hình, câu lệnh hoặc nhà cung cấp được đánh giá, quản lý theo quy trình đã thống nhất, gồm thông báo hoặc xin phê duyệt của khách hàng khi cần.
Đánh giá ảnh hưởng thay đổi, kết quả đánh giá so sánh, ghi chú phát hành
Dịch vụ AI bên thứ ba được xem xét về sử dụng dữ liệu, thời hạn lưu, nơi xử lý, điều khoản bảo mật và mức phù hợp với dự án. Cấu hình được phê duyệt được ghi trong tài liệu.
Danh sách dịch vụ (mục đích, dữ liệu gửi, khu vực xử lý, việc sử dụng để huấn luyện)
AI có trách nhiệm cũng đòi hỏi minh bạch về giới hạn, cam kết hợp đồng và những quyết định vẫn cần con người đánh giá.
AI tạo sinh có thể đưa ra kết quả sai hoặc thiếu nhất quán. Chúng tôi không bảo đảm từng kết quả riêng lẻ. Nghiệm thu phát triển dựa trên tiêu chí trong hợp đồng; mục tiêu PoC hỗ trợ quyết định tính khả thi, không mặc nhiên là nghĩa vụ nghiệm thu.
Chúng tôi không kiểm soát được quy trình huấn luyện nội bộ của mô hình bên thứ ba hoặc thay đổi tương lai của nhà cung cấp. Chúng tôi đánh giá điều khoản, theo dõi thay đổi liên quan và đề xuất phương án khác khi giới hạn dự án yêu cầu.
AI chỉ tự thực hiện trong phạm vi được phê duyệt. Tác vụ thông thường có thể tự động theo quy tắc xác định; quyết định rủi ro cao hoặc không thể đảo ngược cần giám sát phù hợp của con người hoặc cho phép rõ ràng.
Với ứng dụng nhạy cảm ảnh hưởng đến cá nhân, như tuyển dụng hoặc đánh giá nhân sự, chúng tôi xem xét mục đích, tính công bằng, nghĩa vụ áp dụng, biện pháp bảo vệ và vai trò của người đánh giá trước khi thống nhất thiết kế.
Giải đáp về sử dụng dữ liệu, giám sát của con người, kiểm thử, truy vết và kiểm soát vận hành. Nội dung riêng của dự án được quy định trong hợp đồng liên quan.
Không khi chưa có thỏa thuận rõ ràng bằng văn bản. Chúng tôi chỉ dùng dữ liệu được giao cho mục đích dự án đã thống nhất và không cho phép nhà cung cấp AI bên ngoài dùng dữ liệu khách hàng để huấn luyện theo cấu hình thông thường.
Mọi việc huấn luyện hoặc tinh chỉnh phải xác định dữ liệu, mục đích, thời hạn lưu, điều kiện xóa và được khách hàng cho phép bằng văn bản. Khi có dữ liệu cá nhân, cũng cần căn cứ xử lý và sự đồng ý của chủ thể dữ liệu nếu pháp luật yêu cầu.
Chúng tôi phân loại dữ liệu theo nhóm được gửi, cần biện pháp bảo vệ hoặc phải giữ trong môi trường đã phê duyệt. Dữ liệu cá nhân, thông tin nhạy cảm và bí mật kinh doanh mặc định bị hạn chế; che thông tin không tự động loại bỏ nghĩa vụ bảo vệ dữ liệu cá nhân.
Việc dùng dịch vụ bên ngoài và địa điểm xử lý được thống nhất trước triển khai. Nếu không cho phép dịch vụ AI bên ngoài, chúng tôi có thể đề xuất giải pháp tự vận hành trong môi trường của dự án.
Có. Chúng tôi ghi nhận mô hình, phiên bản, lý do lựa chọn và kết quả so sánh liên quan. Hồ sơ khi chạy có thể ghi phiên bản nếu cấu hình dự án cho phép ghi nhật ký.
Có. Thay đổi mô hình và câu lệnh có thể ảnh hưởng đến hoạt động. Chúng tôi đánh giá thay đổi đáng kể và kiểm thử hồi quy theo ngưỡng chất lượng, rủi ro đã thống nhất trước phát hành.
Thay đổi trong vận hành theo quy trình phê duyệt, với triển khai từng bước và phương án quay lại phiên bản trước khi kỹ thuật cho phép.
Trách nhiệm phụ thuộc mục đích sử dụng và hợp đồng. Khi thiết kế, chúng tôi xác định vai trò chịu trách nhiệm về nghiệp vụ, hành động AI được tự thực hiện và phê duyệt cần thiết. Nghĩa vụ triển khai của Technica được đánh giá theo tiêu chí đã thống nhất.
Tiêu chí nghiệm thu, trách nhiệm và biện pháp khắc phục được quy định trong hợp đồng dự án cùng các điều kiện hợp tác áp dụng.
Khi hệ thống hỗ trợ, câu trả lời dựa trên tri thức có nguồn tham chiếu. Nhật ký có thể ghi thời điểm, phiên bản mô hình, nguồn, phê duyệt và hành động, theo giới hạn về quyền riêng tư và lưu giữ đã thống nhất.
Quy trình tác nhân nhiều bước cũng có thể lưu dấu vết thực thi và hồ sơ gọi công cụ để phục vụ điều tra.
Có, trong phạm vi được phê duyệt. Công cụ, quyền và giới hạn hoạt động được quy định trước và kiểm tra khi thực thi. Tác vụ thông thường có thể tự động; hành động rủi ro cao hoặc không thể đảo ngược cần người phê duyệt hoặc biện pháp kiểm soát khác đã thống nhất khi thiết kế.
Nội dung bên ngoài được coi là chưa đáng tin cậy; giới hạn chỉ dẫn, công cụ và kiểm tra quyền được áp dụng khi thao tác. Hành động rủi ro cao có biện pháp bổ sung.
Khi phù hợp, kiểm thử riêng cho AI có tình huống cố tình gây sai lệch bằng câu lệnh. Kết quả có thể được cung cấp trong bộ tài liệu đánh giá đã thống nhất.
Chúng tôi thiết kế truy xuất và truy cập công cụ theo quyền từng người, áp dụng quyền tối thiểu và kiểm thử nguy cơ tiết lộ ngoài dự kiến. Khi môi trường hỗ trợ, xác thực được tích hợp với hệ thống danh tính hiện có của khách hàng.
Có. Bạn có thể chia sẻ trang công khai này. Chúng tôi cũng hỗ trợ bảng câu hỏi bảo mật, trao đổi kỹ thuật và thảo luận quản trị theo yêu cầu riêng của khách hàng.
Cùng đội ngũ kỹ thuật rà soát yêu cầu sử dụng dữ liệu, quyền tự thực hiện của AI, đánh giá, giám sát và truy vết. Chúng tôi cũng hỗ trợ bảng câu hỏi quản trị, bảo mật trong quá trình đánh giá nhà cung cấp.
Trao đổi về quản trị AI
