Meta vừa tung ra Llama 4.1 'Behemoth', một mô hình ngôn ngữ lớn được thiết kế đặc biệt để hoạt động hiệu quả trên các phần cứng bị hạn chế về tài nguyên. Khác với các phiên bản trước tập trung vào sức mạnh tính toán trên data center, Llama 4.1 sử dụng kỹ thuật lượng tử hóa 4-bit tiên tiến kết hợp với kiến trúc Sparse Mixture-of-Experts (MoE) mới, cho phép mô hình với hơn 100 tỷ tham số hiệu dụng được thu nhỏ xuống còn dưới 12GB bộ nhớ RAM.
Điều này có nghĩa là các smartphone cao cấp và laptop phổ thông hiện nay có thể chạy Llama 4.1 hoàn toàn offline mà không cần kết nối internet. Trong các bài kiểm tra độc lập, Llama 4.1 thể hiện khả năng hiểu ngữ cảnh dài lên đến 128k token với độ chính xác tương đương các mô hình cloud-based lớn hơn nhiều bộ. Meta nhấn mạnh rằng đây là nỗ lực nhằm đưa AI vào tay người dùng cuối một cách dân chủ, loại bỏ sự phụ thuộc vào các trung tâm dữ liệu tập trung.
Cộng đồng phát triển đã nhanh chóng phản hồi tích cực, với nhiều ứng dụng AI cá nhân hóa trên iOS và Android được cập nhật để hỗ trợ Llama 4.1. Tuy nhiên, một số lo ngại đã được nêu ra về việc liệu các thiết bị điện toán biên có đủ sức mạnh để chạy các tác vụ phức tạp như tạo hình ảnh hay video chất lượng cao hoàn toàn cục bộ hay không.