Cộng đồng lập trình viên trên GitHub đang sục sôi trước dự án mã nguồn mở mang tên NeuralFlow (phát triển bởi nhóm nghiên cứu độc lập OpenAI-Alternatives). Đây là một thư viện Python chuyên dụng nhằm nén và lượng tử hóa (quantization) các trọng số của mô hình AI xuống mức cực thấp nhưng vẫn bảo toàn tối đa khả năng biểu diễn ngữ nghĩa.
Điểm nổi bật của NeuralFlow là thuật toán 'Adaptive Pruning' mới, tự động nhận diện và loại bỏ các kết nối thần kinh ít quan trọng dựa trên ngữ cảnh thực thi của từng câu lệnh. Nhờ vậy, các nhà phát triển cá nhân giờ đây có thể dễ dàng chạy các mô hình LLM 70 tỷ tham số ngay trên các dòng máy trạm phổ thông hoặc card đồ họa gaming đời cũ.
Chỉ sau chưa đầy 48 giờ ra mắt, kho lưu trữ (repository) này đã thu hút hơn 12.000 lượt sao (stars) trên GitHub và nhận được hàng trăm đóng góp mã nguồn từ các kỹ sư khắp thế giới.