Ollama: chạy mô hình AI ngay trên máy của bạn

Ollama giúp tải và chạy các mô hình mở ngay trên máy, hoặc dùng bản đám mây của hãng.

What it can do

• Cài bằng một dòng lệnh trên macOS, Linux, Windows; có cả ảnh Docker chính thức.
• Chạy mô hình bằng lệnh đơn giản, ví dụ ollama run gemma4.
• Có REST API cục bộ để ứng dụng khác gọi vào.
• Có thư viện Python và JavaScript.
• Có lệnh ollama launch để nối với các công cụ lập trình agent như Claude Code, Codex.

Who it suits

Người ngại đưa tài liệu nội bộ lên dịch vụ đám mây, hoặc nhà phát triển cần thử nhiều mô hình nhanh.

Things to Weigh

• Máy yếu chạy mô hình lớn sẽ chậm.
• Mỗi mô hình có giấy phép riêng. Kiểm tra điều khoản của từng mô hình trước khi dùng thương mại.
• README nhắc cả chế độ đám mây. Dữ liệu chỉ ở lại máy khi bạn chạy mô hình cục bộ.
• Không mở cổng API ra Internet khi chưa có xác thực.

Safe trial

Cài trong môi trường ảo hoặc máy ảo riêng, cài trên máy thử, bắt đầu với mô hình nhỏ, giữ API chỉ nghe trên máy (localhost), tải script cài đặt về đọc trước khi chạy. Chúng tôi chưa tự chạy thử mã của dự án này.

GitHub stats

• Repo: Open on GitHub
• Sao: 184,991
• License: MIT
• Ngôn ngữ: Go
• Repo cập nhật gần nhất: 2026-10-27 (số liệu lấy từ GitHub API)
• Screenshot from the project's GitHub page.