Một nhóm nghiên cứu từ Đại học Stanford vừa công bố trên journal Nature Machine Intelligence một bài nghiên cứu đột phá về việc tối ưu hóa năng lượng cho các trung tâm dữ liệu AI. Bài viết đề xuất một cơ chế 'sparse attention' mới, giúp các mô hình Large Language Models (LLMs) chỉ tính toán các phần cần thiết trong ngữ cảnh, thay vì xử lý toàn bộ chuỗi token một cách dư thừa.
Theo các tác giả, phương pháp này có thể giảm tới 40% lượng điện năng tiêu thụ trong quá trình training và inference, đồng thời duy trì độ chính xác ở mức tương đương hoặc cao hơn so với mô hình gốc. Đây là tin vui lớn cho các công ty công nghệ đang đối mặt với áp lực về chi phí điện năng và các yêu cầu về phát triển bền vững (ESG). Nghiên cứu này hứa hẹn sẽ là nền tảng cho thế hệ mô hình AI xanh tiếp theo.