Khi triển khai AI vào những quy trình có ảnh hưởng đến khách hàng hoặc hoạt động kinh doanh, một trong những câu hỏi thường được đặt ra là: Ai sẽ chịu trách nhiệm nếu AI đưa ra quyết định sai? Câu trả lời phổ biến là con người vẫn giữ quyền phê duyệt cuối cùng. AI có thể phân tích dữ liệu, đề xuất phương án và thực hiện nhiều bước xử lý, nhưng trước khi quyết định được áp dụng, hệ thống vẫn cần một người kiểm tra và xác nhận. Cách thiết kế này thường được gọi là Human-in-the-loop (HITL).

Nghe có vẻ hợp lý. Tuy nhiên, điều gì xảy ra nếu AI đã lựa chọn thông tin, định nghĩa vấn đề và định hướng phương án giải quyết trước khi con người bắt đầu kiểm duyệt? Khi đó, liệu nút “Phê duyệt” có thực sự bảo đảm rằng con người đang kiểm soát quyết định, hay chỉ xác nhận một kết luận đã được AI định hình từ trước?

Đây không còn là câu hỏi mang tính giả định. Những nghiên cứu gần đây cho thấy AI không nhất thiết phải cung cấp thông tin sai để tác động đến phán đoán của con người. Đôi khi, chỉ cần thay đổi cách trình bày một vấn đề cũng đủ khiến người dùng lựa chọn khác đi. Hãy cùng Lemon’s Tribe bóc tách chủ đề này trong bài viết dưới đây nhé.

Human-in-the-loop là gì và vì sao chúng ta tin tưởng cơ chế này?

Human-in-the-loop là cách thiết kế hệ thống trong đó con người tham gia vào một hoặc nhiều bước của quá trình AI xử lý công việc. Tùy theo mục đích, sự tham gia này có thể là cung cấp phản hồi, kiểm tra kết quả, điều chỉnh đề xuất hoặc phê duyệt hành động trước khi hệ thống thực thi.

Ví dụ, một hệ thống AI hỗ trợ xét duyệt khoản vay có thể phân tích thu nhập, lịch sử giao dịch và khả năng trả nợ để đề xuất hạn mức tín dụng. Tuy nhiên, quyết định cuối cùng vẫn cần được chuyên viên có thẩm quyền xem xét. Tương tự, trong chăm sóc khách hàng, AI có thể phân tích khiếu nại và đề xuất phương án hoàn tiền, nhưng nhân viên sẽ kiểm tra trước khi thực hiện.

Về lý thuyết, cách tiếp cận này kết hợp được hai thế mạnh: AI có khả năng xử lý lượng lớn dữ liệu với tốc độ cao, trong khi con người đóng góp kinh nghiệm, hiểu biết về bối cảnh và khả năng cân nhắc những tình huống nằm ngoài quy tắc thông thường.

Bên cạnh lợi ích vận hành, HITL còn tạo ra cảm giác an toàn bởi quyết định quan trọng vẫn gắn với một chủ thể có thể chịu trách nhiệm. Thay vì trao toàn bộ quyền cho một hệ thống tự động, tổ chức duy trì một điểm kiểm soát trước khi hành động được thực hiện.

Chính vì vậy, sự giám sát của con người (human oversight) xuất hiện ngày càng nhiều trong các dự luật và luật quản trị AI. Chẳng hạn, Điều 14 của EU AI Act quy định về cơ chế giám sát của con người đối với những hệ thống AI thuộc nhóm rủi ro cao. Người giám sát cần hiểu khả năng và giới hạn của hệ thống, nhận biết nguy cơ phụ thuộc quá mức vào AI, đồng thời có khả năng bỏ qua, đảo ngược hoặc dừng hoạt động của hệ thống khi cần thiết.¹

Tuy nhiên, việc đưa con người vào quy trình chỉ giải quyết được một phần của bài toán. Sự hiện diện của con người không tự động bảo đảm chất lượng kiểm duyệt, đặc biệt khi chính AI đã tham gia định hình cách người đó nhìn nhận vấn đề.

Liệu con người có thực sự là chốt chặn cuối cùng?

Human-in-the-loop thường được xem là một cơ chế giúp kiểm soát rủi ro khi triển khai AI, bởi con người vẫn tham gia vào quá trình đánh giá hoặc phê duyệt kết quả. Tuy nhiên, bản thân khái niệm này chỉ mô tả sự hiện diện của con người trong quy trình, chứ không bảo đảm chất lượng kiểm duyệt hay mức độ an toàn của toàn bộ hệ thống.

Tháng 10/2026, Anthropic công bố nghiên cứu How AI agents shape experts’ judgment calls (tạm dịch: Cách các tác nhân AI định hình phán đoán của các chuyên gia), trong đó 50 chuyên gia phân tích được giao nhiệm vụ đánh giá một chương trình hỗ trợ nông nghiệp và đưa ra khuyến nghị có nên mở rộng chương trình hay không.² Trong quá trình làm việc, mỗi chuyên gia được hỗ trợ bởi một AI agent. Điều họ không biết là agent đã được gán trước một ưu tiên (preference) đối với những lựa chọn phân tích nhất định, chẳng hạn như cách chọn kết quả (outcome), xác định nhóm so sánh hoặc áp dụng phương pháp trọng số (weighting). Đáng chú ý, đây không phải những lựa chọn hiển nhiên đúng hoặc sai. Mỗi phương pháp đều có cơ sở để giải thích, nhưng có thể dẫn đến kết quả và khuyến nghị khác nhau.

Kết quả nghiên cứu cho thấy 86% lựa chọn phân tích đi theo preference được gán cho agent. Khi chuyên gia đã có quan điểm ban đầu nhưng AI đưa ra ý kiến trái ngược, họ thay đổi quyết định trong 60% trường hợp. Ngoài ra, 77% người tham gia sử dụng lại lập luận do AI cung cấp để giải thích quyết định cuối cùng, nhưng chỉ 15% đề cập rằng lập luận đó đến từ AI.³

Những kết quả này không có nghĩa mọi người dùng đều sẽ nghe theo AI trong 86% trường hợp. Nghiên cứu có quy mô tương đối nhỏ, thực hiện trên một nhiệm vụ cụ thể và chủ động tạo ra preference để đo lường tác động. Tuy nhiên, nó chỉ ra một cơ chế đáng quan tâm: AI có thể ảnh hưởng đến quyết định mà không cần trực tiếp đưa ra kết luận sai.

Hiện tượng này liên quan đến anchoring bias, khi một thông tin xuất hiện sớm trở thành điểm tham chiếu cho quá trình đánh giá tiếp theo, và automation bias, khi con người có xu hướng dựa quá mức vào kết quả của hệ thống tự động. Quan trọng hơn, AI còn có thể tác động đến framing — cách vấn đề được định nghĩa và những lựa chọn được đưa vào xem xét.

Hãy hình dung một hệ thống AI hỗ trợ xử lý khiếu nại giao dịch. Trước khi nhân viên tiếp nhận, AI đã tìm kiếm tài liệu, lựa chọn những bằng chứng được xem là liên quan, phân loại vụ việc thành tranh chấp với người bán và đề xuất từ chối hoàn tiền. Nhân viên có thể kiểm tra rất kỹ các thông tin được trình bày và nhận thấy kết luận hợp lý. Tuy nhiên, nếu hệ thống bỏ sót bằng chứng về lỗi thanh toán hoặc áp dụng sai chính sách, người kiểm duyệt có thể không nhận ra vì họ chưa từng được tiếp cận những thông tin ấy.

Đây là giới hạn đáng chú ý của những hệ thống sử dụng Retrieval-Augmented Generation (RAG). Một câu trả lời có thể hoàn toàn nhất quán với tài liệu đã truy xuất nhưng vẫn chưa phản ánh đầy đủ thực tế nếu retrieval bỏ sót bằng chứng quan trọng. Như vậy, con người có thể đang kiểm tra tính hợp lý của kết luận do AI tạo ra, thay vì tự đánh giá toàn bộ vấn đề. Quyền phê duyệt vẫn tồn tại, nhưng quyền định hình quyết định đã phần nào chuyển sang hệ thống AI.

Có thể nói, Human-in-the-loop có thể trở thành một “nhãn dán” tạo cảm giác an toàn nếu tổ chức chỉ dựa vào sự hiện diện của con người để khẳng định rằng AI đã được kiểm soát. Tuy nhiên, sự an toàn thật sự không được đảm bảo nếu không có sự đánh giá hiệu quả thực tế của cơ chế kiểm duyệt cũng như các rủi ro còn tồn tại trong toàn bộ quy trình.

Khi Human-in-the-loop chỉ còn mang tính hình thức

Sự khác biệt giữa việc có người kiểm duyệt và việc con người thực sự kiểm soát quyết định tạo ra một số tình huống mà HITL chỉ tồn tại về mặt quy trình.

1. Rubber-stamp review – Kiểm duyệt mang tính thủ tục

Đây là trường hợp người kiểm duyệt chủ yếu xác nhận đề xuất của AI mà không đánh giá độc lập. Nguyên nhân không nhất thiết đến từ sự thiếu trách nhiệm. Khi khối lượng công việc quá lớn, thời gian xử lý bị giới hạn hoặc phần lớn đề xuất trước đó đều chính xác, việc phê duyệt theo thói quen có thể dần hình thành.

Cơ quan quản lý tài chính Anh (FCA) từng ghi nhận một trường hợp trong đó vai trò của người kiểm duyệt AI trở nên thiếu rõ ràng và dần biến thành hoạt động đánh dấu hoàn tất, thay vì một bước đánh giá có ý nghĩa.⁴

2. Anchored review – Kiểm duyệt bị định hướng bởi AI

Khác với rubber-stamp review, người kiểm duyệt vẫn dành thời gian phân tích, nhưng quá trình này bắt đầu từ đề xuất của AI. Họ tập trung tìm bằng chứng xác nhận hoặc bác bỏ đề xuất có sẵn, thay vì hình thành đánh giá riêng trước tiên. Điều này khiến trình tự hiển thị thông tin trở thành một yếu tố quan trọng trong thiết kế Product.

3. Selective-evidence review – Kiểm duyệt trên thông tin chưa đầy đủ

Trong trường hợp này, người kiểm duyệt chỉ tiếp cận phần bằng chứng do AI lựa chọn hoặc tóm tắt. Dù đánh giá cẩn thận, họ vẫn có thể đưa ra quyết định sai vì thiếu dữ liệu hoặc không biết những giả thuyết khác đã bị loại bỏ.

4. Review without authority – Có trách nhiệm nhưng thiếu quyền can thiệp

Một nhân viên có thể nhận thấy AI sai nhưng không có quyền thay đổi quyết định, yêu cầu bổ sung thông tin hoặc chuyển vụ việc sang cấp có thẩm quyền. Khi đó, bước kiểm duyệt tồn tại nhưng không tạo ra khả năng kiểm soát thực tế.

5. Accountability laundering – Phân tán trách nhiệm thông qua quy trình phê duyệt

Đây là rủi ro xuất hiện khi tổ chức sử dụng sự hiện diện của con người như bằng chứng rằng quyết định đã được kiểm soát, trong khi không xác định rõ ai chịu trách nhiệm đối với dữ liệu, mô hình, đề xuất và kết quả cuối cùng.

Năm tình huống trên có một điểm chung: vấn đề không chỉ nằm ở khả năng của người kiểm duyệt mà còn đến từ cách hệ thống và quy trình được thiết kế. Nghiên cứu Bias in the Loop đăng trên Harvard Data Science Review với 2.784 người tham gia cho thấy chỉ cần khiến việc chỉnh sửa đề xuất của AI tốn thêm thao tác, người dùng đã có xu hướng sửa lỗi ít hơn và chấp nhận nhiều đề xuất sai hơn.⁵ Nói cách khác, ngay cả khi được trao quyền từ chối, chi phí thực hiện quyền đó cũng có thể khiến người dùng ít sử dụng nó.

Từ phê duyệt đến sự kiểm soát của con người một cách có ý nghĩa

Để tránh những hình thức kiểm duyệt mang tính thủ tục, trước tiên cần phân biệt ba mức độ can thiệp của con người vào hệ thống AI.

Human approval là cơ chế yêu cầu con người xác nhận hoặc từ chối một hành động. Đây là điểm kiểm soát cụ thể, nhưng không tự chứng minh rằng người phê duyệt đã đánh giá độc lập.

Human oversight có phạm vi rộng hơn, bao gồm giám sát hoạt động, phát hiện sai lệch, kiểm tra kết quả và can thiệp khi hệ thống có dấu hiệu bất thường. Việc giám sát có thể diễn ra liên tục hoặc theo từng giai đoạn, không nhất thiết phải phê duyệt mọi hành động.

Trong khi đó, meaningful human control nhấn mạnh chất lượng của quyền kiểm soát. Con người cần có đủ thông tin, năng lực, thời gian và thẩm quyền để đưa ra phán đoán, phản biện hoặc thay đổi quyết định của AI khi cần thiết. Đây là cách diễn giải tổng hợp từ các nghiên cứu và hướng dẫn quản trị, không phải một định nghĩa pháp lý duy nhất áp dụng cho mọi hệ thống.

Điểm khác biệt quan trọng là phê duyệt (approval) tập trung vào ai xác nhận quyết định, còn kiểm soát một cách có ý nghĩa (meaningful control) quan tâm người đó có thực sự đủ điều kiện để quyết định hay không.

Từ góc độ Product, để sự tham gia của con người không chỉ dừng lại ở bước phê duyệt mang tính hình thức, hệ thống cần được thiết kế sao cho người kiểm duyệt có thể tiếp cận thông tin cần thiết, hình thành nhận định độc lập và thực hiện quyền can thiệp khi cần. Một số design pattern dưới đây có thể được áp dụng để hạn chế sự phụ thuộc vào đề xuất của AI, bảo vệ khả năng phán đoán độc lập của con người và nâng cao chất lượng kiểm duyệt:

• Evidence-before-recommendation: Thay vì hiển thị kết luận của AI ngay từ đầu, hệ thống cho phép người dùng xem dữ liệu và bằng chứng trước. Cách thiết kế này giúp giảm nguy cơ đề xuất của AI trở thành điểm neo cho toàn bộ quá trình phân tích.
• Independent first opinion: Người dùng đưa ra đánh giá sơ bộ trước khi tiếp cận đề xuất của AI. Sau đó, họ có thể so sánh, bổ sung thông tin và thay đổi quyết định nếu thấy cần thiết. Một nghiên cứu ngẫu nhiên với 240 người tham gia được công bố trên Frontiers in Psychology năm 2026 cho thấy yêu cầu người dùng hình thành nhận định độc lập trước khi xem AI recommendation giúp họ ít bị ảnh hưởng bởi những lời khuyên gây hiểu lầm hơn. Tuy nhiên, kết quả được ghi nhận trong bối cảnh giáo dục và chưa thể khẳng định đây là thiết kế tối ưu cho mọi quy trình.⁶
• Competing hypotheses: Thay vì chỉ trình bày một phương án với lập luận thuyết phục, AI có thể đưa ra những giả thuyết hợp lý khác, bằng chứng ủng hộ hoặc phản đối từng giả thuyết và những thông tin còn thiếu. Cơ chế này đặc biệt hữu ích với các quyết định không có đáp án rõ ràng.
• Disagreement workflow: Khi con người không đồng ý với AI, hệ thống cần cho phép ghi nhận lý do, bổ sung bằng chứng và chuyển vụ việc đến đúng nơi xử lý. Những bất đồng này cũng có thể trở thành dữ liệu phục vụ evaluation và cải thiện sản phẩm.

Những design pattern này không nhằm khiến con người luôn phải chống lại AI. Mục tiêu là bảo đảm người dùng có thể nhận ra khi AI đúng, phát hiện khi AI sai và có đủ điều kiện để quyết định dựa trên bằng chứng thay vì thói quen chấp nhận đề xuất.⁷

Đo lường hiệu quả của Human-in-the-loop như thế nào?

Khi thiết kế HITL, nhiều tổ chức theo dõi approval rate hoặc override rate để biết con người chấp nhận hay từ chối bao nhiêu đề xuất của AI. Tuy nhiên, những con số này chưa đủ để đánh giá hiệu quả kiểm duyệt. Một override rate thấp có thể phản ánh chất lượng recommendation tốt. Nhưng nó cũng có thể xuất phát từ automation bias, áp lực xử lý công việc hoặc việc người kiểm duyệt không được cung cấp đủ thông tin để phản biện.

Do đó, evaluation cần mở rộng từ hành vi phê duyệt sang chất lượng của toàn bộ quá trình ra quyết định. Cụ thể, chúng ta có thể sử dụng một số chỉ số sau để đo lường độ hiệu quả của HITL:

• Decision Flip Rate đo tỷ lệ người dùng thay đổi đánh giá ban đầu sau khi xem recommendation của AI. Metric này nên được phân tích riêng giữa những trường hợp AI đúng và AI sai, bởi thay đổi quyết định không mặc nhiên là điều tiêu cực.
• Recommendation Influence Lift so sánh mức độ quyết định của con người đồng thuận với AI giữa nhóm được xem recommendation và nhóm không được xem. Thông qua thử nghiệm có kiểm soát, Product team có thể đánh giá mức độ tác động của AI đến lựa chọn cuối cùng.
• Contradiction Detection Rate đo khả năng người kiểm duyệt nhận ra những bằng chứng mâu thuẫn hoặc sai lệch đã được xác định trước trong bộ dữ liệu evaluation. Đây là tín hiệu trực tiếp hơn về chất lượng kiểm tra so với số lần người dùng nhấn Reject.
• Disagreement Win Rate đánh giá những trường hợp AI và con người đưa ra kết luận khác nhau, sau đó đối chiếu với outcome đã được xác minh để biết phương án nào chính xác hơn. Metric này giúp phân biệt những lần override thực sự có ích với những trường hợp con người bác bỏ recommendation đúng.
• Cuối cùng, Unassisted Decision Accuracy đo khả năng ra quyết định khi người dùng không có sự hỗ trợ của AI. Nếu năng lực này suy giảm theo thời gian, tổ chức có thể đang tạo ra một đội ngũ ngày càng phụ thuộc vào hệ thống mà họ được giao nhiệm vụ giám sát.

Tuy nhiên, các metric trên cần được đánh giá cùng những chỉ số vận hành như thời gian xử lý, chi phí kiểm duyệt, tỷ lệ escalation và mức độ thiệt hại thực tế. Một cơ chế kiểm soát giúp giảm sai sót nhưng khiến toàn bộ quy trình ùn tắc cũng chưa chắc là phương án tối ưu.⁸

Đối với Product Owner, cách tiếp cận phù hợp là thiết lập baseline, thử nghiệm những phương án thiết kế khác nhau trên dữ liệu đã được xác minh và đánh giá đồng thời chất lượng quyết định, khả năng can thiệp cùng chi phí vận hành.

Khi nào nên bỏ qua Human-in-the-loop?

Sau khi phân tích những hạn chế của HITL, một câu hỏi ngược lại xuất hiện: Có nhất thiết phải giữ con người trong mọi quy trình AI?

Câu trả lời là không. Nếu một tác vụ có quy tắc rõ ràng, rủi ro thấp, dễ đảo ngược và hệ thống đã đạt mức độ tin cậy phù hợp, yêu cầu con người kiểm duyệt từng bước có thể tạo thêm chi phí mà không cải thiện đáng kể kết quả. Ví dụ, AI hỗ trợ phân loại ticket, trích xuất thông tin hoặc đề xuất nội dung FAQ có thể được phép xử lý tự động trong phạm vi đã xác định; những trường hợp không chắc chắn, thiếu dữ liệu hoặc vượt quyền hạn mới cần chuyển sang con người. Đây là sự khác biệt giữa việc loại bỏ kiểm soát và thay đổi cách kiểm soát. Thay vì kiểm duyệt từng hành động, tổ chức có thể áp dụng giới hạn quyền thực thi, kiểm tra tự động, giám sát kết quả, audit log và khả năng đảo ngược khi phát hiện sai lệch. Tuy nhiên, với những quyết định khó đảo ngược, có hậu quả nghiêm trọng hoặc thuộc nhóm pháp luật yêu cầu sự can thiệp của con người, HITL chắc chắn sẽ cần xuất hiện và phải có cơ chế kiểm soát tương ứng.

Tóm lại, quyết định có nên áp dụng HITL cần dựa trên mức độ rủi ro, khả năng đảo ngược, chất lượng hệ thống và giá trị thực tế mà con người đóng góp vào quy trình. Nếu người kiểm duyệt không có thêm thông tin, không có quyền thay đổi và gần như luôn xác nhận máy móc, tổ chức cần xem lại thiết kế thay vì mặc nhiên coi đó là một lớp bảo vệ. Một quy trình tự động hóa minh bạch với những giới hạn rõ ràng đôi khi có thể được kiểm soát tốt hơn một quy trình mang danh Human-in-the-loop nhưng không có hoạt động giám sát thực chất.

Tạm kết

Human-in-the-loop không chắc là chốt chặn uy tín đảm bảo an toàn nhưng cũng không phải là một cơ chế sai. Sự tham gia của con người vẫn đóng vai trò quan trọng trong việc kiểm soát những hệ thống AI có ảnh hưởng lớn đến hoạt động kinh doanh và đời sống. Vấn đề nằm ở chỗ chúng ta dễ nhầm lẫn giữa việc con người xuất hiện trong quy trình với việc họ thực sự có khả năng kiểm soát quy trình ấy.

Khi AI ngày càng tham gia sâu vào quá trình thu thập thông tin, phân tích và đề xuất phương án, quyền kiểm soát không còn chỉ được xác định tại bước phê duyệt cuối cùng. Nó bắt đầu từ cách thông tin được lựa chọn, cách vấn đề được định nghĩa và khả năng con người đưa ra những đánh giá độc lập.

Với những người làm Product, câu hỏi quan trọng vì thế không chỉ là có nên bổ sung một bước Human-in-the-loop hay không, mà là bước đó thực sự ngăn ngừa được rủi ro nào, tạo ra giá trị gì và liệu chúng ta có đo lường được hiệu quả của nó. Bởi vậy, một nút Approve có thể giúp hoàn tất quy trình, nhưng không đủ để chứng minh rằng con người vẫn đang làm chủ quyết định.

Cheers & Peace!

⸻

Nguồn tham khảo

1. European Union, Regulation (EU) 2024/1689 – Artificial Intelligence Act, Article 14: Human Oversight. ↩︎
2. Anthropic, How AI agents shape experts’ judgment calls. ↩︎
3. Anthropic, How AI agents shape experts’ judgment calls. ↩︎
4. Financial Conduct Authority, AI in financial services: good practice and areas for improvement. ↩︎
5. Harvard Data Science Review, Bias in the Loop: How Humans Evaluate AI-Generated Suggestions. ↩︎
6. Dong Yan, Independent judgment before viewing generative AI recommendations reduces susceptibility to misleading advice: a randomized scenario-based experiment with preservice teachers. ↩︎
7. Information Commissioner’s Office, Human review – AI data protection audit framework. ↩︎
8. National Institute of Standards and Technology, Artificial Intelligence Risk Management Framework (AI RMF 1.0). ↩︎