08 Chat và Langfuse

Tài liệu đồng hành của người điều phối cho bài học 08 Chat và Langfuse.

Thời lượng

Khoảng 15 phút. Khoá LLM lúc chạy và các khoá Langfuse đã có sẵn trong .env.workshop từ module 00, nên phần này chủ yếu là khởi động lại backend cộng với phần tham quan trace.

Nội dung dẫn giảng

• Panel chat từ module 02 trở thành thật, và mọi lượt trao đổi đều được trace.
• Trình chiếu một trace: prompt, completion, token, chi phí.

Lỗi thường gặp

• Thiếu OPENAI_API_KEY; POST /api/chat trả về 503 kèm gợi ý thiết lập (phần còn lại của ứng dụng không bị ảnh hưởng). Một khoá không được nạp tiền sẽ báo lỗi ở lần gọi model.
• Sai region trong LANGFUSE_BASE_URL (https://us.cloud.langfuse.com so với https://cloud.langfuse.com), nên các trace không xuất hiện.
• Back end chưa được khởi động lại sau khi điền .env.workshop.
• Buổi tổng duyệt phòng sạch 2026-07 đã phủ module này; các dạng lỗi, thời lượng và các bước cần con người phê duyệt đã được xác nhận trong buổi tổng duyệt phòng sạch 2026-07.

Các bước khôi phục

• Phát cho học viên một khoá LLM cho mượn có giới hạn chi tiêu từ pool.
• Điền lại OPENAI_API_KEY / LLM_MODEL / LLM_BASE_URL và ba giá trị LANGFUSE_* trong .env.workshop, rồi chạy docker compose --env-file .env.workshop -f docker-compose.workshop.yml -f docker-compose.otel.yml up -d --build backend để telemetry của ClickStack vẫn được bật.