Ông Nguyễn Ngọc Nam, Giám đốc Khối Tư vấn dịch vụ tài chính, KPMG Việt Nam.

GenAI cần một khung quản trị hiệu quả

10/07/2025 15:44

0:00 / 0:00

0:00

(ĐTCK) Trong lĩnh vực dịch vụ tài chính, trí tuệ nhân tạo tạo sinh (GenAI) đang dần được ứng dụng sâu rộng vào quá trình dự đoán kết quả, thúc đẩy đổi mới sáng tạo trong việc cung cấp sản phẩm, dịch vụ, cải thiện năng suất và hiệu quả. Tuy nhiên, mối lo ngại về rủi ro từ việc sử dụng trí tuệ nhân tạo (AI) ngày một gia tăng đòi hỏi các tổ chức phải có một khung quản trị GenAI đáng tin cậy.

Một số câu hỏi lớn cần trả lời

Trên thế giới, GenAI đã được nhiều tổ chức tài chính áp dụng nhằm gia tăng giá trị và hiệu quả hoạt động. Một số ứng dụng nổi bật của GenAI bao gồm phòng chống gian lận, hỗ trợ quản lý rủi ro và tuân thủ, quản lý tài sản cho phân khúc khách hàng có thu nhập cao, cải thiện dịch vụ chăm sóc khách hàng.

Tại Việt Nam, nhiều tổ chức tài chính hướng tới sử dụng GenAI trong hoạt động kinh doanh và vận hành hàng ngày. Trong đó, TPBank đã triển khai công nghệ nhận diện khuôn mặt trên kênh ngân hàng tự động LiveBank nhằm tăng cường bảo mật và tiện ích cho khách hàng.

VietinBank sử dụng các kiốt (quầy tự động) được trang bị công nghệ FaceID để nhận dạng và hỗ trợ khách hàng. VietABank, Nam A Bank, VPBank, Techcombank, VIB và ACB triển khai GenAI Chatbot nhằm hỗ trợ khách hàng, quản lý tài sản, tăng cường các biện pháp bảo mật, chống gian lận và phân tích các giao dịch ATM vào mùa cao điểm.

Với tiềm năng dường như vô tận, AI dần trở thành một xu hướng tất yếu tại các tổ chức trong lĩnh vực dịch vụ tài chính. Dựa trên dữ liệu lớn và luôn được cập nhật, các ứng dụng GenAI đang tiếp tục được tích hợp sâu hơn trong hoạt động vận hành hàng ngày cũng như hỗ trợ nhiều hơn quá trình ra quyết định.

Tuy nhiên, sự phát triển của GenAI trong một vài năm gần đây làm dấy lên câu hỏi, liệu AI có thực sự là một giải pháp bền vững khi rủi ro từ sử dụng AI có nguy cơ gia tăng. Thực tế cho thấy, ngày càng nhiều các trường hợp GenAI mang lại kết quả không như kỳ vọng (xem bài “12 famous AI disasters” tại cio.com).

Đơn cử, vào tháng 3/2024, Chatbot được hỗ trợ bởi Microsoft có tên MyCity đã cung cấp một số thông tin sai lệch tới người dùng là doanh nghiệp, dẫn tới việc họ có thể thực hiện các hành động vi phạm quy định pháp luật.

Theo khảo sát toàn cầu của KPMG về rủi ro AI/GenAI với hơn 17.000 người từ 17 quốc gia (xem hình), rủi ro an ninh mạng là mối quan tâm lớn nhất với hơn 84% số người được hỏi lựa chọn nhóm rủi ro này.

Bên cạnh đó, hơn 2/3 số người được hỏi cho rằng, sử dụng GenAI sai mục đích, thông tin giả hoặc bị thiên lệch, mất việc bởi GenAI, lộ lọt thông tin cá nhân cũng là những rủi ro đáng quan ngại.

Rủi ro an ninh mạng là mối quan tâm lớn nhất khi ứng dụng AI/GenAI Các mối lo ngại, Mức độ lo ngại và tỷ lệ số người trả lời.

Quay lại với câu hỏi liệu GenAI có thực sự là một giải pháp bền vững, câu trả lời là có. Mặc dù vậy, với những rủi ro tiềm ẩn, các tổ chức cần chuẩn bị đầy đủ năng lực để quản trị AI một cách hiệu quả. Nói cách khác, cần xây dựng một khung quản trị GenAI đáng tin cậy (Trusted GenAI).

Những nỗ lực sớm hoặc ngay từ ban đầu sẽ mang lại nhiều lợi ích, nhất là khi các giải pháp GenAI đang ngày càng trở nên phức tạp đến mức vượt quá mức độ xử lý của trí óc con người. Hơn nữa, chi phí xử lý các rủi ro phát sinh có thể trở nên ngày càng tốn kém hơn nếu tổ chức thực hiện triển khai giải pháp GenAI một cách vội vàng.

Sau đây là một số câu hỏi lớn cần trả lời trong hành trình ứng dụng AI: Kỳ vọng về tỷ suất sinh lời từ các dự án về AI/GenAI? Đâu là những sáng kiến AI mà tổ chức nên thực hiện, bao gồm sáng kiến trong ngắn, trung và dài hạn? Các sáng kiến AI nên được ưu tiên áp dụng cho bộ phận chức năng nào trong tổ chức? Đâu là kết quả kỳ vọng sẽ đạt được? Làm cách nào để giảm thiểu những rủi ro và quan ngại từ việc sử dụng AI? Liệu tổ chức và người lao động đã sẵn sàng để khai thác những giá trị từ AI? Mức độ sẵn sàng của dữ liệu cũng như đâu là các năng lực về quản trị dữ liệu cần có trước khi thực hiện hành trình AI?

Các khía cạnh quản trị AI

Kinh nghiệm quốc tế cho thấy, một chương trình quản trị GenAI đáng tin cậy thường bao gồm các khía cạnh sau.

Một là, định hình lại các mô hình quản trị nội bộ bằng cách tích hợp chiến lược AI, đánh giá mức độ trưởng thành về GenAI và xây dựng mô hình hoạt động GenAI và các nguyên tắc sử dụng GenAI hoàn chỉnh phù hợp với thông lệ tiên tiến.

Hai là, thiết lập các tiêu chuẩn và chính sách về GenAI theo các tiêu chuẩn và thông lệ tiên tiến, đồng thời vẫn đảm bảo phù hợp với các quy định pháp lý hiện hành như bảo vệ quyền riêng tư về dữ liệu cá nhân, chia sẻ dữ liệu.

Ba là, thực hiện đánh giá rủi ro GenAI theo từng mục đích và trường hợp sử dụng cụ thể. Kết quả đánh giá rủi ro cần bao hàm các trọng tâm rủi ro của GenAI như tính công bằng, tính minh bạch, tính trách nhiệm, tính an toàn, tính giải thích, độ tin cậy và bảo mật thông tin. Dựa trên kết quả đánh giá rủi ro, tổ chức cần đưa ra các biện pháp giảm thiểu và chốt kiểm soát tương ứng.

Bốn là, thiết lập các tiêu chuẩn trong thiết kế và triển khai mô hình GenAI và đảm bảo các tiêu chuẩn được áp dụng cho toàn bộ các mô hình AI nội bộ cũng như mô hình từ bên thứ ba.

Năm là, thiết lập các báo cáo và chỉ số theo dõi rủi ro GenAI để chứng minh mức độ tuân thủ các quy định nội bộ, đo lường hiệu suất của các chương trình và mô hình GenAI phù hợp với mục tiêu kinh doanh và khẩu vị rủi ro.

Các khía cạnh quản trị GenAI

Chỉ khi thực hiện được các nội dung nêu trên, tổ chức sẽ dần thu được những lợi ích lớn lao từ AI mà vẫn đảm bảo giảm thiểu các tác động bất lợi.

Những lợi ích bao gồm: Thứ nhất, cải thiện mức độ chính xác và độ tin cậy trong các kết quả dựa trên GenAI, từ đó hỗ trợ tốt hơn quá trình ra quyết định dựa trên dữ liệu.

Thứ hai, đảm bảo kết quả GenAI không vi phạm các nguyên tắc đạo đức cốt lõi, có tính minh bạch và công bằng.

Thứ ba, tuân thủ các yêu cầu luật định, giảm thiểu các rủi ro từ vi phạm quyền riêng tư về dữ liệu cá nhân.

Thứ tư, xác định và giảm thiểu các rủi ro tiềm ẩn liên quan đến việc triển khai GenAI bằng cách thiết lập các hướng dẫn rõ ràng, quy trình rà soát và cơ chế giám sát cụ thể từ quản lý cấp cao.

Thứ năm, khuyến khích đối thoại cởi mở giữa các bên liên quan, thúc đẩy môi trường hợp tác thúc đẩy đổi mới và áp dụng GenAI có trách nhiệm.

Điều này cũng giải thích cho một trong những kết quả nổi bật tại khảo sát toàn cầu của KPMG về GenAI năm 2023, khi chỉ trong vòng 3 tháng, tỷ lệ các tổ chức tài chính đã và đang triển khai các chương trình/khung quản trị GenAI tăng từ 0% lên 63%.

Các bước triển khai ứng dụng AI/GenAI

Đầu tư vào AI/GenAI không hề rẻ và việc đầu tư dàn trải, phân tán sẽ không đem lại lợi ích thực sự cho tổ chức. Năng lực cạnh tranh từ AI/GenAI chỉ có được từ việc đầu tư một cách khôn ngoan, thay vì chạy theo phong trào.

Do vậy, các tổ chức nên bắt đầu với việc thiết lập chiến lược AI/GenAI, đánh giá trưởng thành về AI, cũng như xác định rõ đâu là những trường hợp áp dụng (Use Cases) và kỳ vọng về lợi ích kinh tế thu được.

Về lâu dài, một khung quản trị GenAI tin cậy là việc mà các tổ chức cần thực hiện để đảm bảo để giảm thiểu những tác động bất lợi và rủi ro, cũng như phù hợp với các giá trị của con người, bao gồm các vấn đề về đạo đức.