Cách xây dựng AI Agent trả lời khách: 7 bước từ dữ liệu đến chạy thật

Phần lớn bài viết về cách xây dựng AI agent trên mạng đi theo một công thức: giải thích agent là gì, liệt kê vài nền tảng, rồi kết bằng câu "hãy bắt đầu ngay hôm nay".

Đọc xong bạn vẫn không biết bắt đầu từ đâu, vì phần khó nhất bị bỏ qua.

Mình nói luôn phần khó đó: khâu chuẩn bị dữ liệu chiếm phần lớn công sức của cả dự án, còn khâu ráp công cụ chỉ là một buổi chiều. Mọi thứ hỏng đều hỏng ở khâu đầu, không phải khâu sau.

Bài này đi qua bảy bước theo đúng thứ tự nên làm, kèm những chỗ dễ sai mà mình gặp nhiều nhất.

Bước 1: chọn đúng một việc, đừng chọn ba

Sai lầm phổ biến nhất là bắt đầu bằng câu "mình muốn AI xử lý hết inbox". Inbox chứa hàng chục loại yêu cầu khác nhau, mỗi loại cần một cách xử lý, và bạn sẽ chết chìm trong tuần đầu.

Hãy chọn đúng một việc, và việc đó phải thoả ba điều: xảy ra ít nhất vài chục lần mỗi tuần, có tài liệu chuẩn để dựa vào, và sai thì sửa được chứ không mất tiền.

Cách chọn nhanh: mở tin nhắn hoặc email của bạn, lấy một trăm cái gần nhất, đếm xem loại yêu cầu nào chiếm nhiều nhất. Ở hầu hết shop bán lẻ, câu hỏi về tình trạng hàng và chính sách giao nhận chiếm phần lớn. Ở công ty dịch vụ, thường là hỏi giá và hỏi lịch. Mình có nói kỹ hơn về cách phân loại này trong bài AI Agent cho doanh nghiệp nhỏ.

Chọn xong, viết một câu mô tả agent theo mẫu: "Khi khách hỏi X, agent đọc Y, trả lời theo Z, nếu ngoài phạm vi thì chuyển cho ai." Nếu bạn chưa điền được cả bốn chỗ trống, đừng đi tiếp bước hai.

Bước 2: dọn tài liệu thành một nguồn duy nhất

Đây là bước tốn công nhất và cũng là bước quyết định.

Agent không có trí nhớ về công ty bạn. Nó chỉ biết những gì bạn đưa cho nó đọc. Mà tài liệu của phần lớn doanh nghiệp Việt hiện đang ở tình trạng: bảng giá có ba phiên bản trong ba máy khác nhau, chính sách đổi trả nằm trong một tin nhắn Zalo từ năm ngoái, và cách trả lời khách khó nằm trong đầu chị quản lý.

Việc cần làm ở bước này:

Gom hết tài liệu liên quan đến việc bạn chọn ở bước một vào một chỗ. Với mỗi tài liệu, xoá hết bản cũ, chỉ giữ một bản đang có hiệu lực. Ghi rõ ngày cập nhật và ai chịu trách nhiệm cập nhật.

Viết ra những thứ chưa từng được viết. Đây là phần mọi người hay bỏ qua. Ngồi với người đang làm việc đó, hỏi họ trả lời khách thế nào trong mười tình huống hay gặp, rồi ghi lại. Một buổi hai tiếng thường đủ để rút ra thứ mà cả công ty tưởng là hiển nhiên nhưng chưa ai viết xuống bao giờ.

Cắt tài liệu thành từng mẩu có nghĩa. Đừng để agent phải đọc cả file bốn mươi trang cho một câu hỏi về giờ mở cửa. Mỗi mẩu nên trả lời được một loại câu hỏi, có tiêu đề rõ ràng.

Một thước đo đơn giản để biết bước này đã xong: đưa tập tài liệu đó cho một người mới vào làm, bảo họ trả lời mười câu hỏi khách hay hỏi. Nếu họ trả lời được hết mà không cần hỏi ai, agent cũng sẽ làm được. Nếu họ phải hỏi lại, agent sẽ bịa.

Bước 3: chọn nền tảng, và đừng chọn theo bảng xếp hạng

Sau khi có dữ liệu, việc chọn công cụ dễ hơn nhiều so với bạn tưởng.

Câu hỏi quyết định không phải "model nào thông minh nhất" mà là "agent này cần đọc được dữ liệu đang nằm ở đâu". Nếu tài liệu của bạn trong Google Drive, chọn thứ nối được vào Google Drive. Nếu khách nhắn qua Facebook, chọn thứ nối được với Facebook.

Về cách ráp, có ba hướng phổ biến:

Dùng thẳng giao diện của các trợ lý AI với tính năng tạo trợ lý riêng, tải tài liệu lên. Nhanh nhất, hợp để thử trong tuần đầu, nhưng khó nối vào hệ thống khác.

Dùng công cụ nối tự động như n8n hoặc Make, ghép các bước với nhau bằng kéo thả. Đây là hướng mình khuyên cho hầu hết doanh nghiệp nhỏ, vì bạn kiểm soát được từng bước và mở rộng dần được. Bài tự động hóa cho doanh nghiệp nhỏ có nói kỹ về cách chọn giữa các công cụ này và chi phí thật.

Thuê người viết code riêng. Chỉ nên làm khi hai hướng trên đã chạm giới hạn thật, không phải khi mới bắt đầu.

Còn về việc chọn model, nguyên tắc gọn: dùng model rẻ nhất làm được việc. Trả lời câu hỏi dựa trên tài liệu có sẵn không cần model đắt nhất. Bài chi phí xây dựng AI Agent có bảng so sánh tiền theo từng model để bạn cân.

Bước 4: viết chỉ dẫn cho agent như viết cho người mới

Chỉ dẫn cho agent, hay còn gọi là system prompt, là thứ quyết định nó trả lời ra sao. Và cách viết tốt nhất là hình dung bạn đang viết bản hướng dẫn cho một bạn nhân viên mới vào ngày đầu tiên.

Bản chỉ dẫn cần có đủ bốn phần.

Nó là ai và nói chuyện kiểu gì. "Bạn là trợ lý của shop X, xưng em với khách, không dùng từ chuyên môn, không hứa những gì chưa chắc."

Nó được đọc gì. Chỉ rõ nguồn tài liệu và nói thẳng: chỉ trả lời dựa trên tài liệu này, không dùng kiến thức bên ngoài.

Nó không được làm gì. Đây là phần quan trọng nhất và hay bị thiếu. Không tự ý giảm giá, không hứa thời gian giao hàng nếu tài liệu không ghi, không đoán khi không chắc.

Khi nào thì dừng và chuyển cho người. Liệt kê cụ thể: khách nhắc tới khiếu nại, khách hỏi thứ ngoài tài liệu, khách yêu cầu gặp quản lý.

Câu quan trọng nhất nên có trong mọi bản chỉ dẫn: "Nếu không tìm thấy câu trả lời trong tài liệu, hãy nói là bạn cần kiểm tra lại và chuyển cho nhân viên. Tuyệt đối không suy đoán." Thiếu câu đó, agent sẽ bịa ra một chính sách nghe rất hợp lý mà công ty bạn chưa bao giờ có.

Bước 5: thử với ba mươi tình huống thật trước khi cho ai thấy

Đây là bước bị cắt đầu tiên khi vội, và cũng là lý do phổ biến nhất khiến dự án hỏng.

Cách làm: lấy ba mươi tin nhắn thật từ lịch sử chat, càng lộn xộn càng tốt. Cho agent trả lời từng cái. Với mỗi câu trả lời, chấm ba mức: dùng được luôn, sửa nhẹ là dùng được, hoặc sai.

Nhìn vào nhóm sai, phân loại nguyên nhân. Nếu sai vì thiếu tài liệu, quay lại bước hai. Nếu sai vì chỉ dẫn chưa rõ, sửa bước bốn. Nếu sai vì câu hỏi quá phức tạp, thêm nó vào danh sách phải chuyển cho người.

Ngưỡng để mở cho khách thật: ít nhất tám trên mười câu dùng được ngay hoặc chỉ cần sửa nhẹ, và không có câu nào sai sự thật. Một câu trả lời sai về chính sách hoàn tiền có thể tốn hơn cả tháng công sức tiết kiệm được.

Trong ba mươi tình huống, nhớ cho vào vài câu cố tình khó: khách hỏi cộc lốc, khách gõ sai chính tả, khách hỏi hai việc trong một tin, khách hỏi thứ công ty không có. Agent xử lý được nhóm này mới là agent dùng được ngoài đời.

Bước 6: cho chạy thật nhưng có người đứng sau

Đừng bật agent lên rồi đi ngủ.

Tuần đầu tiên, cho nó chạy ở chế độ soạn nháp: agent viết câu trả lời, nhân viên đọc rồi bấm gửi. Nghe có vẻ không tiết kiệm được gì, nhưng thực ra tiết kiệm rất nhiều thời gian gõ, đồng thời mọi lỗi đều bị chặn trước khi tới khách.

Sau một tuần, nếu tỉ lệ phải sửa thấp, mở cho agent tự trả lời nhóm câu hỏi đơn giản nhất, giữ nhóm còn lại ở chế độ nháp. Cứ thế mở dần.

Trong suốt giai đoạn này, phải có một người đọc lại toàn bộ hội thoại mỗi ngày. Không phải để bắt lỗi agent, mà để phát hiện những câu hỏi mới mà bạn chưa lường trước. Đó là nguồn tốt nhất để bổ sung tài liệu.

Bước 7: đặt lịch bảo trì trước khi cần đến nó

Agent không phải đồ mua một lần. Bảng giá đổi, sản phẩm mới về, chính sách thay đổi, khách hỏi kiểu mới.

Việc cần chốt ngay từ đầu, không phải để đến tháng thứ ba:

Ai chịu trách nhiệm cập nhật tài liệu, và cập nhật vào thứ mấy hàng tuần. Ghi tên một người cụ thể, không ghi "phòng kinh doanh".

Mỗi tháng dành nửa tiếng đọc lại những câu agent đã chuyển cho người, xem có nhóm nào lặp lại đủ nhiều để bổ sung vào tài liệu không.

Đo bằng ba con số: tỉ lệ câu agent xử lý trọn vẹn, tỉ lệ phải sửa, và thời gian phản hồi trung bình. Ba con số này đi đúng hướng thì agent đang sống, đứng yên hoặc xấu đi thì có việc phải làm.

Lịch ba mươi ngày cho người mới bắt đầu

Nếu bạn muốn một mốc thời gian cụ thể thay vì bảy bước trừu tượng, đây là cách chia mà mình thấy hợp với doanh nghiệp dưới ba mươi người.

Tuần một dành hết cho dữ liệu. Không đụng vào công cụ nào. Chọn một việc, gom tài liệu, viết ra những thứ chưa từng được viết, cắt thành từng mẩu có nghĩa. Nghe chán nhưng đây là tuần quyết định.

Tuần hai ráp bản chạy được xấu xí. Chọn nền tảng, viết chỉ dẫn, nối vào nguồn tài liệu. Mục tiêu của tuần này không phải đẹp hay hoàn chỉnh, mà là có một thứ trả lời được năm câu hỏi cơ bản. Đừng cầu toàn ở đây, vì tuần sau bạn sẽ sửa lại nhiều.

Tuần ba là tuần thử và sửa. Ba mươi tình huống thật, chấm từng câu, phân loại nguyên nhân sai, quay lại sửa dữ liệu hoặc chỉ dẫn. Phần lớn thời gian của tuần này sẽ dành cho việc bổ sung tài liệu, đúng như dự đoán.

Tuần bốn cho chạy thật ở chế độ nháp. Agent soạn, người bấm gửi. Cuối tuần ngồi lại đếm ba con số: bao nhiêu câu dùng được ngay, bao nhiêu phải sửa, bao nhiêu phải bỏ. Ba con số đó quyết định bạn mở rộng, giữ nguyên, hay dừng lại.

Nếu hết ba mươi ngày mà chưa có gì chạy được, gần như chắc chắn vấn đề nằm ở tuần một: việc bạn chọn quá lớn hoặc tài liệu chưa đủ. Quay lại thu nhỏ phạm vi, đừng cố đi tiếp.

Chỗ hay hỏng nhất, nói lại cho rõ

Nếu bạn chỉ nhớ một điều từ bài này, hãy nhớ điều này: agent trả lời sai gần như luôn là vấn đề dữ liệu, không phải vấn đề công nghệ.

Mỗi lần có người nhắn cho mình rằng agent của họ trả lời linh tinh, câu hỏi đầu tiên mình hỏi là "agent đang đọc tài liệu nào để trả lời câu đó". Quá nửa số trường hợp, câu trả lời là "à, chỗ đó thì bọn em chưa viết ra".

Đổi model đắt hơn không sửa được lỗi này. Chỉ có ngồi xuống viết tài liệu cho tử tế mới sửa được.