Ảo tưởng sức mạnh: Cứ LLM xịn là thành AI Agent ngon?
Ảo tưởng cứ LLM xịn là thành Agent ngon? Thực tế cái 'não' chỉ chiếm 20%, 80% còn lại toàn là mồ hôi nước mắt của kỹ thuật phần mềm truyền thống.
Ngồi cafe chém gió dạo này, mình thấy anh em lúc nào cũng râm ran chuyện: "Model mới ra đỉnh quá", "Con này reasoning (suy luận) out trình con kia". Nhưng thực tế phũ phàng là, có một mô hình ngôn ngữ (LLM) xịn không đồng nghĩa với việc bạn có một AI Agent xịn.
Hãy tưởng tượng thế này cho dễ hiểu: Xây dựng AI Agent cũng giống như mở một nhà hàng.
Mô hình LLM chính là ông siêu đầu bếp (Gordon Ramsay chẳng hạn). Ổng nấu ăn cực ngon (20%), nhưng để nhà hàng hoạt động, bạn cần 80% còn lại: người đi chợ mua nguyên liệu (Tools), bồi bàn ghi order (Prompt/UI), quản lý kho (Memory), và hệ thống camera giám sát xem ổng có nổi điên đốt bếp không (Safety Boundaries).
Gần đây, một anh chàng kỹ sư tên Mohit Goyal đã tự build từ con số không một dự án mã nguồn mở tên là AgentForge và rút ra một kết luận xương máu: Mô hình chỉ là 20%, 80% còn lại hoàn toàn là kỹ thuật phần mềm truyền thống (Traditional Software Engineering).
80% "Phần chìm của tảng băng" gồm những gì?
Khi đi sâu vào mã nguồn của Mohit, chúng ta mới thấy để một con AI không bị "ngáo" và thực sự làm được việc, anh em phải code cả một hệ sinh thái xoay quanh nó:
- Agent Loop (Vòng lặp suy nghĩ - hành động): AI không tự nhiên biết làm việc liên tục. Anh em phải viết code để tạo ra một vòng lặp: AI nhận lệnh -> Suy nghĩ -> Dùng công cụ -> Xem kết quả -> Quyết định làm bước tiếp theo hay dừng lại. Giống hệt quy trình làm việc Agile của anh em PM nhà mình vậy.
- Tooling & Giao tiếp thế giới thực (MCP): Bản thân AI bị nhốt trong một cái hộp. Để nó đọc file, tìm kiếm web hay chạy code, anh em phải "đưa đồ nghề" cho nó bằng cách định nghĩa các công cụ thật chuẩn xác. Sử dụng Model Context Protocol (MCP) là một giải pháp rất tốt hiện nay. Nếu định nghĩa sai, AI sẽ dùng búa để đi vặn ốc.
- Trí nhớ dài hạn (Persistence & Context): AI mặc định là... não cá vàng. Làm sao để nó nhớ hôm qua nó đã làm gì, file nào đã sửa? Anh em phải xây dựng hệ thống lưu trữ trạng thái (checkpoints), nén ngữ cảnh để không bị tràn bộ nhớ (và tràn cả tiền bill API).
- Hàng rào an ninh (Approval & Safety Boundaries): Đây là cái quan trọng nhất! Bạn dám để một con AI tự động xóa file hay chạy lệnh trên máy chủ của mình không? Chắc chắn là không. Bạn phải xây dựng các trạm kiểm duyệt (approval), làm sạch dữ liệu đầu ra và cách ly nó khỏi các câu lệnh rác (prompt injection) để tránh việc AI vô tình "đốt nhà".
Bài học rút ra cho anh em Dev và PM
Nếu dự án của anh em đang loay hoay mãi mà con AI Agent vẫn chạy lảo đảo, lúc đúng lúc sai, thì đừng vội đổ lỗi cho API của OpenAI hay Anthropic.
Hãy quay lại nhìn vào 80% hạ tầng cơ sở. Thay vì mù quáng chạy theo việc đổi model mới nhất, hãy đầu tư vào việc thiết kế công cụ (tools) tốt hơn, quản lý luồng dữ liệu chặt chẽ hơn và xây dựng bộ nhớ xịn xò hơn cho nó. Một mô hình tầm trung nhưng được đặt trong một bộ khung (harness) xuất sắc sẽ làm việc ngon lành và rẻ hơn nhiều so với một siêu mô hình bị vứt trơ trọi.
Kết luận
Làm AI bây giờ không phải chỉ là "trò chơi của những câu lệnh" (prompt engineering) nữa, nó thực sự là một cuộc chơi của kỹ thuật phần mềm bài bản (Software Engineering). Anh em đang vướng mắc ở phần 20% hay 80%? Để lại bình luận anh em mình cùng bàn tiếp nhé!
Nguồn cảm hứng: Dự án AgentForge của Mohit Goyal trên X
#AIAgents #LLM #SoftwareEngineering #AgentForge #MCP #ProductDevelopment
✍️ Tác giả: Do Ngoc Hoan Founder of CookConnects.ca & Wizy.ca. Kết nối khoảng cách giữa thuật toán tiên tiến và thực thi kinh doanh. Tôi viết cho những founder kỹ thuật muốn mở rộng tầm ảnh hưởng bằng AI và kỹ thuật vững chắc.