Tracing
Xem trace của từng tin nhắn — các lời gọi LLM, lượng token và lời gọi công cụ — để debug và phân tích trợ lý.
Tracing cho bạn nhìn vào bên trong cách trợ lý tạo ra mỗi câu trả lời. Với mỗi tin nhắn của trợ lý, hệ thống ghi lại từng lời gọi LLM và từng lần thực thi công cụ, kèm theo lượng token, thời lượng và trạng thái.
Tracing là cách nhanh nhất để trả lời "vì sao trợ lý lại trả lời như vậy?" và "điều gì khiến câu trả lời này chậm hoặc tốn kém?".
Tracing là gì?
Một câu trả lời của trợ lý không phải lúc nào cũng chỉ là một lời gọi LLM. Khi trợ lý dùng công cụ (kho tri thức, MCP, custom API, v.v.), nó chạy một tool loop: gọi model → chạy các công cụ được yêu cầu → đưa kết quả ngược lại → gọi model tiếp, cho đến khi có câu trả lời cuối cùng.
Tracing ghi lại từng bước của vòng lặp đó:
- Một mục LLM call cho mỗi vòng lặp (model, provider, token, thời lượng, trạng thái).
- Một mục tool execution cho mỗi công cụ mà model gọi (tham số, kết quả, thời lượng, kết cục).
Đây là observability tích hợp sẵn — không cần cấu hình bên ngoài.
Cách mở Traces
- Vào Admin Panel và mở Assistants.
- Mở một assistant, rồi vào Conversations.
- Chọn một hội thoại để xem các tin nhắn.
- Trên bất kỳ tin nhắn của trợ lý nào, nhấn pill Trace (icon activity) để mở hộp thoại Chi tiết Agent Trace.
Chỉ tin nhắn của trợ lý mới có trace. Tin nhắn của người dùng không kích hoạt lời gọi LLM hay công cụ nên không có gì để trace.
Thanh tóm tắt
Phần đầu hộp thoại tóm tắt nhanh toàn bộ câu trả lời:
| Chỉ số | Ý nghĩa |
|---|---|
| Lượt gọi | Số lời gọi LLM (số vòng lặp) cho tin nhắn này |
| Tokens | Tổng token tiêu thụ trên tất cả lời gọi |
| Thời lượng | Tổng thời gian tạo ra câu trả lời |
| Công cụ | Tổng số lần thực thi công cụ trên tất cả lời gọi |
Đọc một lời gọi LLM
Mỗi lời gọi LLM hiển thị dưới dạng một card. Phần header hiển thị model, một badge trạng thái, và Vòng lặp # (loop của tool-loop, bắt đầu từ 0). Mở rộng card để xem chi tiết đầy đủ.
| Trường | Ý nghĩa |
|---|---|
| Model | Chat model xử lý lời gọi này (vd gpt-5.6-luna) |
| Nhà cung cấp | Provider đứng sau model (vd openai, anthropic) |
| Trạng thái | completed, aborted hoặc error — xem bên dưới |
| Vòng lặp # | Chỉ số vòng lặp tool-loop (0 = lời gọi đầu tiên) |
| Thời gian | Thời điểm thực hiện lời gọi |
| Thời lượng | Lời gọi mất bao lâu |
Chi tiết Token
| Token | Ý nghĩa |
|---|---|
| Input | Token gửi tới model (prompt, lịch sử, context, kết quả công cụ) |
| Output | Token do model tạo ra |
| Total | Input + output |
| Cached | Token input được phục vụ từ prompt cache của provider (rẻ hơn) |
| Suy luận | Token suy luận nội bộ, với các model "nghĩ" trước khi trả lời |
Cached và Suy luận chỉ xuất hiện khi lớn hơn 0. Cached token giúp giảm chi phí; reasoning token là phần model xử lý nội bộ trước khi đưa ra câu trả lời nhìn thấy được.
Lời gọi công cụ
Khi trợ lý dùng công cụ, card lời gọi sẽ liệt kê từng lần thực thi công cụ. Mỗi dòng hiển thị tên công cụ, một badge loại, và thời lượng. Mở rộng một dòng để xem chi tiết:
| Chi tiết | Ý nghĩa |
|---|---|
| Hành động | Kết cục của lời gọi công cụ (xem bảng bên dưới) |
| Thời gian | Thời điểm công cụ chạy |
| Tham số | Tham số mà model truyền cho công cụ (JSON) |
| Kết quả | Tóm tắt những gì công cụ trả về |
| Lỗi | Thông báo lỗi, nếu công cụ thất bại |
Loại công cụ
| Badge | Là gì |
|---|---|
| builtin | Công cụ tích hợp phía server (kho tri thức, memory, web, v.v.) |
| mcp | Công cụ cung cấp qua MCP (endpoint và MCP server) |
| custom | Custom HTTP API tool của riêng bạn |
Hành động công cụ
| Hành động | Ý nghĩa |
|---|---|
| REQLLM | Kết quả được gửi lại cho model để tiếp tục vòng lặp |
| RESPONSE | Công cụ tạo ra câu trả lời cuối cùng trực tiếp |
| NONE | Công cụ chạy nhưng không trả về gì để xử lý tiếp |
| ERROR | Công cụ thất bại — kiểm tra thông báo lỗi |
Tham số và Kết quả đã được sanitize và cắt ngắn để đảm bảo an toàn và dễ đọc — đây là phần tóm tắt, không phải payload thô đầy đủ.
Trạng thái Trace
| Trạng thái | Ý nghĩa |
|---|---|
| completed | Lời gọi hoàn thành bình thường |
| aborted | Lời gọi bị dừng sớm (vd người dùng ngắt lời / barge-in) |
| error | Lời gọi thất bại — xem trace và lỗi công cụ để tìm nguyên nhân |
Các tình huống thường gặp
Debug câu trả lời sai — kiểm tra công cụ nào được gọi, truyền tham số gì, và mỗi công cụ trả về gì. Kết quả tệ hoặc tham số sai thường giải thích cho câu trả lời lạc đề.
Phân tích chi phí — tổng token tương ứng trực tiếp với lượng credit tiêu thụ. Dùng trace để phát hiện tin nhắn nào tốn kém và vì sao. Xem Credits.
Chẩn đoán câu trả lời chậm — so sánh thời lượng của từng vòng lặp và từng công cụ. Một công cụ bên ngoài chậm hoặc quá nhiều vòng lặp thường là nút thắt cổ chai.
Liên quan
- Tools & MCP — các công cụ xuất hiện trong trace của bạn
- AI Models — các model hiển thị trong mỗi lời gọi LLM
- Credits — token tiêu thụ tương ứng chi phí ra sao