Từ tiền huấn luyện đến các nhóm tác nhân AI: Vì sao bốn vòng mở rộng quy mô của Jensen Huang thay đổi câu hỏi về điện toán
Mở đầu: Điều gì tăng lên khi trí tuệ nhân tạo trở nên có năng lực hơn?
Thảo luận về trí tuệ nhân tạo [AI] thường bắt đầu từ quy mô của một mô hình. Mô hình có bao nhiêu tham số? Bao nhiêu thông tin đã được dùng để huấn luyện? Hệ thống điện toán phía sau lớn đến mức nào?
Những câu hỏi đó chỉ mô tả một phần của hệ thống. Lập luận rộng hơn của ông Jensen Huang là AI có thể phát triển ở nhiều giai đoạn: khi học nền tảng, khi tinh chỉnh hành vi, khi giải quyết một vấn đề cụ thể và khi phân chia công việc giữa các tác nhân. Hiểu mối liên hệ giữa các giai đoạn này sẽ thay đổi cách chúng ta nghĩ về nhu cầu tính toán.
Điểm phân biệt quan trọng nằm giữa xây dựng một mô hình và sử dụng một hệ thống thông minh. Hai hoạt động có liên quan, nhưng không phải cùng một khối lượng công việc [Workload].
1. Tiền huấn luyện xây nền tảng, không tạo ra một người làm việc hoàn chỉnh
Tiền huấn luyện [Pre-training] phát triển năng lực tổng quát của mô hình bằng cách cho nó tiếp xúc với lượng thông tin lớn. Mô hình học các mẫu và mối quan hệ có thể hỗ trợ những nhiệm vụ sau này.
Nhiều dữ liệu và năng lực tính toán hơn có thể cải thiện nền tảng đó. Tuy nhiên, một đợt huấn luyện lớn hơn không giải thích đầy đủ về trí thông minh hữu ích. Mô hình có thể có kiến thức phổ thông sâu rộng mà vẫn cần khả năng phán đoán tốt hơn, kinh nghiệm theo từng nhiệm vụ hoặc quyền tiếp cận thông tin chưa từng gặp khi huấn luyện.
Vì vậy, câu hỏi không thể dừng ở việc nguồn tài liệu do con người viết cuối cùng có trở thành ràng buộc hay không. Những giai đoạn tiếp theo có thể thay đổi cả cách hệ thống học lẫn công việc mà nó thực hiện.
2. Hậu huấn luyện thay đổi cách sử dụng nền tảng
Hậu huấn luyện [Post-training] tinh chỉnh mô hình sau giai đoạn học ban đầu. Trọng tâm chuyển sang hành vi, nhiệm vụ thực tế và những kiểu phản hồi con người cần.
Dữ liệu tổng hợp [Synthetic Data] có thể đóng góp vào quá trình này. Hệ thống có thể tạo ví dụ, khám phá các biến thể và sản xuất tài liệu hữu ích cho việc học tiếp. Giá trị nằm ở chất lượng trải nghiệm thu được, chứ không phải ở việc máy móc đã tạo ra nó.
Sự phân biệt này quan trọng. Tạo thêm tài liệu không tự động chứng minh tài liệu đó đúng. Vòng lặp hữu ích chọn những trải nghiệm đáng giữ lại và dùng chúng để cải thiện hành vi về sau. Số lượng không đi kèm chọn lọc có thể lặp lại điểm yếu thay vì sửa chữa.
3. Tính toán lúc sử dụng khiến suy luận trở thành bài toán khó hơn
Suy luận [Inference] đôi khi được hình dung là bước cuối đơn giản: mô hình đã học xong, nên tạo một câu trả lời chỉ cần ít công sức bổ sung.
Mở rộng tính toán lúc kiểm thử [Test-time Scaling] thách thức cách nhìn đó. Một nhiệm vụ khó có thể đòi hỏi hệ thống chia vấn đề thành phần nhỏ, so sánh các hướng tiếp cận, tìm thông tin và xem xét lại một lần thử thất bại.
Khi đó, nhu cầu tính toán phụ thuộc vào những gì hệ thống phải làm trước khi trả về câu trả lời hữu ích. Một phản hồi ngắn vẫn có thể đến sau lượng công việc đáng kể. Ngược lại, câu trả lời dài không chứng minh việc lập luận đã được thực hiện cẩn thận.
Với doanh nghiệp, điều này khiến thời gian phản hồi [Latency], chất lượng câu trả lời và chi phí vận hành trở thành các lựa chọn gắn kết. Phản hồi tức thì rẻ nhất không phải lúc nào cũng là nhiệm vụ được hoàn thành thành công với chi phí thấp nhất.
4. Mở rộng theo tác nhân bổ sung phối hợp vào năng lực
Mở rộng theo tác nhân [Agentic Scaling] đưa ra một hướng khác: hệ thống có thể phân việc cho nhiều tác nhân [Agents] thay vì yêu cầu một mô hình làm mọi thứ theo thứ tự.
Một tác nhân có thể kiểm tra hồ sơ trong khi tác nhân khác so sánh các phương án. Phát hiện của họ có thể hỗ trợ một kết quả chung. Đây là hình thức tăng trưởng khác với làm một mô hình lớn hơn hoặc cho nó thêm thời gian.
So sánh với một tổ chức rất hữu ích. Nhiều nhân viên hơn có thể tăng năng lực, nhưng chỉ khi trách nhiệm, trao đổi thông tin và quyết định cuối cùng đều rõ ràng. Tương tự, thêm tác nhân tạo ra công việc phối hợp, xử lý khác biệt và kiểm tra. Số lượng của chúng là đầu vào, không phải thước đo thành công.
5. Bốn giai đoạn tạo thành một vòng học tập
Mối liên hệ quan trọng nhất là điều xảy ra sau khi hệ thống làm việc. Trải nghiệm hữu ích từ các tác nhân có thể thành tài liệu cho huấn luyện sau này. Mô hình đã được tinh chỉnh sau đó có thể hỗ trợ lập luận tốt hơn và các tác nhân hiệu quả hơn.
Vì vậy, tiền huấn luyện, hậu huấn luyện, công việc lúc sử dụng và hoạt động tác nhân không nhất thiết phải nằm trong những ô riêng biệt. Chúng có thể nuôi dưỡng lẫn nhau.
Điều này cũng thay đổi câu hỏi về hạ tầng. Huấn luyện mô hình, tìm kiếm trong tệp và phối hợp nhiều người làm đặt ra yêu cầu khác nhau đối với bộ xử lý, bộ nhớ, lưu trữ và mạng. Hệ thống được thiết kế quanh một phép đo hiệu năng [Benchmark] hẹp có thể không phù hợp với toàn bộ quy trình công việc [Workflow].
Kết luận: Đo công việc, không chỉ đo mô hình
Khung bốn phần của ông Huang đưa cuộc thảo luận vượt khỏi quan niệm rằng tiến bộ AI chỉ là mô hình lớn hơn được huấn luyện một lần trên tập dữ liệu [Dataset] lớn hơn.
Bài học thực tế là xác định nơi nào tính toán bổ sung tạo ra kết quả tốt hơn. Nhiệm vụ cần nền tảng tốt hơn, tinh chỉnh hữu ích hơn, thời gian giải quyết vấn đề dài hơn hay phân công phối hợp?
Doanh nghiệp nên đánh giá câu trả lời qua nhiệm vụ đã hoàn thành, chất lượng, thời gian và tổng chi phí. Đây là điểm xuất phát hữu ích hơn việc chỉ đếm tham số hay tác nhân. Câu hỏi điện toán trong tương lai liên quan đến toàn bộ hệ thống học và làm việc.
Powered By K7