Nền tảng hội thoại lấy mô hình LLM làm bộ điều phối: hiểu ngữ cảnh, gắn chính sách, kết nối công cụ nội bộ — phù hợp tư vấn dịch vụ viễn thông, hỗ trợ bán hàng, FAQ và tự động hóa tác vụ có kiểm soát.
1. Kiến trúc Core / Policy / Instruct
Thay vì mạch if/else cố định, hệ thống dùng lớp Core (lý giải & điều phối), Policy (ràng buộc an toàn, phạm vi domain, dữ liệu được truy cập) và Instruct (từng kỹ năng/kịch bản). Toàn bộ mã hóa dưới dạng hướng dẫn & công cụ, dễ thay prompt và domain mà không cần cắt từng luồng cũ. Đầu vào/ra chuẩn hóa ưu tiên văn bản/markdown để dễ tích hợp, log và kiểm toán.
2. Đa phương tiện & tích hợp
Đầu vào: văn bản, tệp PDF/ảnh (OCR), giọng (STT), tùy mức video. Kết hợp kho tri thức (RAG vector/graph), tìm kiếm, API dịch vụ nội bộ, webhook. Đầu ra có thể cấu tạo: bảng, liên kết, cả mô tả cấu trúc tạo sơ đồ/báo cáo khi client hỗ trợ. Kỹ năng (Skill) tách từng tác vụ: có thể tái sử dụng nhiều ứng dụng (chăm sóc khách hàng, tài chính, tài chính kế toán, tóm tắt văn bản, v.v.).
3. Ứng dụng viễn thông & dịch vụ
Dùng cho tư vấn gói cước, gói dịch vụ, hỗ trợ kỹ thuật thiết bị/SIM, trả lời từ kho tài liệu nội bộ, tra hóa đơn/lịch sử tùy tích hợp, chuyển tuyến tới tổng viên theo mức. Model có thể chọn theo tải/độ trễ. Policy đảm bảo không lộ dữ liệu thuê bao giữa các tài khoản; tích hợp API CRM, billing, ticket.
4. Phân tích & tự động hóa sâu (tùy cấu hình)
Có thể mở rộng lên tác vụ phân tích: văn bản → lệnh SQL (read-only, lược đồ cho phép), tóm tắt, biểu đồ, báo cáo; hoặc quy trình tài chính–kế toán, soạn thư mẫu, trích mẫu. Mức cấu hình, logging và cách phân tách từng tổ chức cần được thiết lập từng dự án cùng đội bảo mật nội bộ khách hàng.
5. Vận hành, đa kênh, đo lường
Giao thức stream (SSE) cho cảm giác phản hồi nhanh; theo dõi phiên, tốc độ, lỗi, giới hạn. Kênh: web, ứng dụng, tin nhắn, tổng đài. Báo cáo intent, điểm rơi, CSAT — kết hợp công cụ BI. Triển khai có thể nối tới giải pháp tài chính–hành chính, soạn tài liệu mẫu, hoặc chat nội bộ chuyên biệt, theo tài liệu chiến lược ứng dụng tương tự đã từng mô tả nội bộ.