Ollama: chạy mô hình AI ngay trên máy của bạn

Ollama giúp tải và chạy các mô hình mở ngay trên máy, hoặc dùng bản đám mây của hãng.

Nó làm được gì

• Cài bằng một dòng lệnh trên macOS, Linux, Windows; có cả ảnh Docker chính thức.
• Chạy mô hình bằng lệnh đơn giản, ví dụ ollama run gemma4.
• Có REST API cục bộ để ứng dụng khác gọi vào.
• Có thư viện Python và JavaScript.
• Có lệnh ollama launch để nối với các công cụ lập trình agent như Claude Code, Codex.

Hợp với ai

Người ngại đưa tài liệu nội bộ lên dịch vụ đám mây, hoặc nhà phát triển cần thử nhiều mô hình nhanh.

Cần cân nhắc

• Máy yếu chạy mô hình lớn sẽ chậm.
• Mỗi mô hình có giấy phép riêng. Kiểm tra điều khoản của từng mô hình trước khi dùng thương mại.
• README nhắc cả chế độ đám mây. Dữ liệu chỉ ở lại máy khi bạn chạy mô hình cục bộ.
• Không mở cổng API ra Internet khi chưa có xác thực.

Thử an toàn

Cài trong môi trường ảo hoặc máy ảo riêng, cài trên máy thử, bắt đầu với mô hình nhỏ, giữ API chỉ nghe trên máy (localhost), tải script cài đặt về đọc trước khi chạy. Chúng tôi chưa tự chạy thử mã của dự án này.

Số liệu GitHub

• Repo: Mở trên GitHub
• Sao: 184,991
• Giấy phép: MIT
• Ngôn ngữ: Go
• Repo cập nhật gần nhất: 2026-10-27 (số liệu lấy từ GitHub API)
• Ảnh chụp từ trang GitHub của dự án.