Logging và tracing cho AI agent: những trường cần có
Khi một AI agent trả lời sai, câu hỏi đầu tiên luôn là "nó đã làm gì?". Nếu bạn chỉ có bản ghi cuộc hội thoại, bạn sẽ không trả lời được. Bạn cần biết agent đã gọi công cụ nào, với tham số gì, mất bao lâu và kết quả trả về là gì.
Bài này liệt kê những trường mình sẽ ghi cho mỗi bước của agent, cộng với vài lưu ý để log không trở thành một rủi ro mới.

Một mã theo dõi cho cả tác vụ
Mỗi yêu cầu của người dùng nên có một mã theo dõi (trace ID) và mọi bước của yêu cầu đó dùng chung mã này. Nhờ vậy, khi có khiếu nại, người hỗ trợ chỉ cần dán một mã là xem được toàn bộ quá trình.
Nếu có nhiều agent hoặc nhiều dịch vụ, hãy thêm mã cho từng bước con và mã của bước cha, để dựng lại cây gọi.
Để xem cách dựng lại đường đi của một tác vụ qua nhiều agent, bạn có thể đọc bài về tracing và debug hệ thống multi-agent.
Các trường cho mỗi bước
Với mỗi bước, mình ghi thời điểm, mã theo dõi, loại bước (suy luận, gọi công cụ, trả lời), tên công cụ, trạng thái, thời gian xử lý và số token đã dùng. Với bước gọi công cụ, ghi thêm phiên bản của công cụ và mã của người dùng mà agent đang hành động thay.
Một dòng log mẫu:
{
"ts": "2026-11-19T02:15:04.221Z",
"trace_id": "9c1e...",
"step": "tool_call",
"tool": "lookup_order",
"tool_version": "2",
"user_role": "support_agent",
"status": "ok",
"ms": 412,
"tokens_in": 1830,
"tokens_out": 96
}
Mỗi dòng là một JSON, nên dễ lọc ngay bây giờ và dễ đưa vào hệ thống log sau này.
Những thứ nên ghi cẩn thận
Tham số của công cụ và nội dung trả lời có thể chứa dữ liệu cá nhân. Hãy che hoặc cắt bớt trước khi ghi, đặt thời hạn lưu giữ và giới hạn ai được đọc log. Một kho log lưu mọi thứ mãi mãi tự nó là một rủi ro.
Nếu cần ghi nội dung đầy đủ để gỡ lỗi, bật chế độ đó có thời hạn và chỉ cho một nhóm nhỏ truy cập.
Ghi cả lý do từ chối
Khi agent từ chối một hành động vì thiếu quyền hay vì chạm giới hạn, hãy ghi lý do. Đây là loại log hữu ích nhất khi kiểm toán, vì nó cho thấy các giới hạn thật sự hoạt động. Cũng nên ghi phiên bản của prompt và của mô hình ở mỗi lần chạy. Khi chất lượng đổi, đó là hai nghi phạm đầu tiên, và bạn sẽ muốn biết ngay bản nào đang chạy.
Đo từ log
Từ các trường trên, bạn tính được vài con số rất thực tế: công cụ nào chậm nhất, bước nào tốn nhiều token nhất, bao nhiêu tác vụ chạm giới hạn số bước và bao nhiêu tác vụ cần người can thiệp. Đặt cảnh báo khi thời gian trung vị của một công cụ tăng gấp đôi qua một đêm. Xem các con số này mỗi tuần trong tháng đầu, vì đó là lúc hệ thống thay đổi nhiều nhất, và giữ log đủ lâu để so sánh trước và sau một thay đổi.
Một kiểm tra nhanh
Lấy một tác vụ thật của tuần trước và thử trả lời bằng log: agent đã làm gì, dùng dữ liệu nào, mất bao lâu, và ai đã duyệt? Nếu bạn không trả lời được trong năm phút, log còn thiếu trường.
Mình làm việc với các hệ thống AI agent cho doanh nghiệp ở AI Hive, và log đủ trường thường là thứ đầu tiên đội bảo mật yêu cầu xem.
Hiện tại bạn trả lời được những câu hỏi nào bằng log của agent?
All rights reserved