AI·NEWS
Dự án GitHub Nguồn: GitHub Blog 17:00:23 11/11/2026

GitHub Trending: Ollama 0.15 - Chạy mô hình AI lớn hoàn toàn offline trên máy tính cá nhân

Ollama 0.15 hỗ trợ chạy các mô hình AI lớn như Llama 4.1 và Mistral Large hoàn toàn offline trên máy tính cá nhân, với hiệu năng được tối ưu hóa cho phần cứng tiêu dùng.

GitHub Trending: Ollama 0.15 - Chạy mô hình AI lớn hoàn toàn offline trên máy tính cá nhân

Ollama, công cụ mã nguồn mở phổ biến cho việc chạy mô hình AI trên máy tính cá nhân, vừa phát hành phiên bản 0.15 với khả năng hỗ trợ các mô hình lớn hơn và hiệu năng được cải thiện đáng kể. Phiên bản mới có thể chạy Llama 4.1 100B và Mistral Large 123B một cách hoàn toàn offline trên các máy tính có GPU 24GB VRAM, nhờ vào kỹ thuật lượng hóa tiên tiến và tối ưu hóa bộ nhớ.

Ollama 0.15 giới thiệu tính năng 'Adaptive Quantization', tự động điều chỉnh mức độ lượng hóa dựa trên tài nguyên phần cứng sẵn có, đảm bảo cân bằng giữa chất lượng mô hình và hiệu suất. Công cụ cũng bao gồm hệ thống quản lý nhiều mô hình, cho phép người dùng tải xuống và chuyển đổi giữa các mô hình khác nhau một cách dễ dàng. Giao diện dòng lệnh được cải thiện với các lệnh mới cho việc theo dõi hiệu suất và chẩn đoán lỗi.

Sự phát triển của Ollama phản ánh xu hướng ngày càng tăng trong việc đưa AI mạnh mẽ đến với người dùng cá nhân và các doanh nghiệp nhỏ. Nhiều lập trình viên đang sử dụng Ollama để phát triển và kiểm tra các ứng dụng AI mà không phải lo lắng về chi phí API hoặc quyền riêng tư dữ liệu. Dự án đạt hơn 45.000 sao trên GitHub và có cộng đồng đóng góp rất sôi động, với hàng trăm cải tiến và plugin được phát triển bởi người dùng.

Về trang chủ

Nội dung do AI tổng hợp, tham khảo theo nguồn "GitHub Blog"