Một chatbot thông thường chỉ trả lời bằng văn bản — bạn hỏi, nó đáp, và cuộc trao đổi dừng ở đó. Một agent chạy một vòng lặp: nó có thể gọi tool để thực hiện hành động, quan sát kết quả, và lặp lại hướng tới một mục tiêu cho đến khi đạt điều kiện dừng. Khác biệt nằm ở việc làm, không chỉ nói.
Mục tiêu → [suy nghĩ → gọi tool → quan sát kết quả → suy nghĩ lại] → lặp → dừng khi xong
Ở mỗi bước, agent quyết định việc cần làm tiếp theo dựa trên những gì nó vừa biết, thay vì tạo ra một đáp án rồi dừng.
Các "tool" của agent cho phép nó tác động tới thế giới:
Mục tiêu: "Sửa test đang fail."
1. Chạy bộ test → quan sát: test_login fail
2. Đọc test bị fail → quan sát: nó kỳ vọng 200, nhận 500
3. Tìm handler → quan sát: thiếu kiểm tra null
4. Chỉnh sửa file handler → ghi bản vá
5. Chạy lại bộ test → quan sát: tất cả pass
→ đạt điều kiện dừng: test xanh, hoàn tất
Một chatbot chỉ có thể mô tả một bản vá khả dĩ; agent thực sự áp dụng nó và xác minh kết quả bằng cách tự chạy test.
Hiểu vòng lặp của agent giải thích vì sao agent có thể hoàn thành công việc nhiều bước thực sự — debug, refactor, nghiên cứu — thay vì chỉ mô tả nó. Chu trình gọi-tool-quan-sát-lặp-lại, với điều kiện dừng rõ ràng, là thứ biến một language model từ bộ sinh văn bản hội thoại thành thứ thực sự hoàn thành tác vụ.