Discussion about this post

User's avatar
Thi Nguyễn's avatar

Chút cảm khái cuối ngày, mong thầy đừng cười ạ.

LLM không phát triển theo một kế hoạch hoàn hảo ngay từ đầu, mà theo kiểu gặp vấn đề đến đâu thì giải quyết đến đó. Mỗi nút thắt được tháo gỡ lại làm lộ ra một nút thắt mới ở tầng cao hơn, tạo thành một vòng xoáy trôn ốc của tiến bộ kỹ thuật.

Ban đầu là prompt engineering để cải thiện chất lượng đầu vào. Khi LLM biết dùng tool và phải ghi nhớ kết quả qua nhiều bước, xuất hiện context engineering để quản lý ngữ cảnh. Khi hệ thống phải phối hợp nhiều lời gọi LLM và nhiều thành phần khác nhau, cần harness engineering để điều phối toàn bộ luồng xử lý. Đến khi hệ thống hoạt động theo nhiều vòng lặp tự sửa và tối ưu, sinh ra loop engineering. Cuối cùng, khi lỗi tích lũy qua nhiều bước khiến con người không còn đánh giá thủ công được, evals ra đời để đo lường và so sánh chất lượng một cách có hệ thống.

Năm tầng này không thay thế nhau mà chồng lên nhau; tầng sau xuất hiện để giải quyết những giới hạn của tầng trước. Đặc biệt, evals không phải một ý tưởng hoàn toàn mới, mà chỉ là sự hình thức hóa việc so sánh và đánh giá vốn đã tồn tại từ khi người ta thử nghiệm các prompt đầu tiên.

Toàn bộ quá trình phản ánh đúng quy luật lượng đổi dẫn đến chất đổi của triêt học: nhu cầu tích lũy dần đến một ngưỡng thì bùng phát thành một kỹ thuật độc lập. Nếu nhìn theo lăng kính này, có thể thấy lịch sử phát triển của LLM thật ra không có gì thần bí, mà là chuỗi cải tiến liên tục trước những vấn đề thực tế, tương tự cách toàn ngành phần mềm đã phát triển suốt nhiều thập kỷ, nhưng kết quả mà nó mang lại thực sự đã thay đổi vĩnh viễn cuộc sống con người, ở 1 quy mô và tốc độ chưa từng có.

Phan Ngoc An's avatar

Nghe chú Thành nói về AI mà đầu cứ nghĩ tới mình... cách mình đầu tư vào phần "con ngựa" và "dây cương"... Cảm ơn chú đã chia sẻ ❤️

No posts

Ready for more?