Trong một bài báo vừa được công bố trên tạp chí khoa học uy tín Nature Machine Intelligence, nhóm nghiên cứu thuộc MIT đã trình bày một kỹ thuật tối ưu hóa mới mang tên 'Sparse-Flow Training'. Kỹ thuật này tập trung vào việc xác định và tạm thời vô hiệu hóa các kết nối trong mạng nơ-ron có đóng góp không đáng kể vào quá trình học, từ đó giảm thiểu số lượng phép toán cần thực hiện trên các máy chủ GPU.
Theo Thạc sĩ chính của nghiên cứu, Tiến sĩ Alexander Chen, quá trình huấn luyện các mô hình ngôn ngữ lớn hiện tại tiêu thụ lượng điện năng khổng lồ, tương đương với mức tiêu thụ của hàng nghìn hộ gia đình trong vài tháng. Sparse-Flow Training không hy sinh độ chính xác của mô hình mà chỉ loại bỏ bớt các 'nhiễu' tính toán không cần thiết. Trong các thử nghiệm thực tế, kỹ thuật này đã giúp giảm 50% tổng thời gian huấn luyện và lượng điện tiêu thụ mà vẫn duy trì hiệu suất suy luận ở mức tương đương với các phương pháp truyền thống.
Phát hiện này có ý nghĩa to lớn đối với ngành công nghiệp AI, nơi chi phí năng lượng đang trở thành một rào cản lớn đối với việc mở rộng quy mô các mô hình. Nhiều tập đoàn công nghệ lớn đã liên hệ với MIT để thảo luận về việc cấp phép và ứng dụng công nghệ này vào các trung tâm dữ liệu của họ. Chuyên gia phân tích ngành AI, bà Sarah Johnson từ công ty tư vấn Gartner, nhận định: 'Đây là một bước tiến quan trọng hướng tới việc phát triển AI một cách bền vững, giảm bớt gánh nặng môi trường cho các công ty công nghệ.'
Nhóm nghiên cứu cũng cho biết họ đang làm việc với các đối tác công nghiệp để tích hợp Sparse-Flow Training vào các framework mã nguồn mở phổ biến như Hugging Face Transformers. Dự kiến, phiên bản thử nghiệm công khai sẽ được phát hành trong quý 1 năm 2027, cho phép các nhà phát triển trên toàn thế giới tiếp cận và sử dụng kỹ thuật này mà không cần đầu tư thêm phần cứng chuyên dụng.