Ollama
Ollama 是一个在本地计算机上运行大型语言模型的免费开源工具，支持下载并运行 Llama、DeepSeek-R1、Mistral 等 40 多种模型。提供命令行界面、REST API 和 Docker 镜像，数据无需发送到第三方服务。
人工核验 · · 提交更正
编辑点评
适合需要在本地离线运行和实验大模型的开发者与研究人员；不适合无技术背景、只想开箱即聊的普通用户。
核验信息
分类大模型
人工核验
Ollama是什么
Ollama 是一个在本地计算机上运行大型语言模型的免费开源工具，支持下载并运行 Llama、DeepSeek-R1、Mistral 等 40 多种模型。提供命令行界面、REST API 和 Docker 镜像，数据无需发送到第三方服务。
Ollama的主要功能
- 本地运行 Llama、DeepSeek 等开源模型
- 通过 REST API 为应用接入本地模型
- 用 Docker 部署私有模型服务
- 离线环境下测试大模型能力
适合
- 完全免费开源，隐私数据不出本机
- 模型库丰富，持续增加中
- CLI、API、Docker 多种使用方式
先注意
- 需要命令行基础，上手有门槛
- 大模型对本地硬件（显存/内存）要求高
- 图形界面能力相对有限
如何使用Ollama
- 从官网下载对应系统的安装包
- 安装完成后打开终端
- 运行 ollama run 加模型名下载模型
- 等待模型下载完成
- 在命令行与模型对话或调用 API
Ollama的适用场景
上手难度： 进阶
- 本地运行 Llama、DeepSeek 等开源模型
- 通过 REST API 为应用接入本地模型
- 用 Docker 部署私有模型服务
- 离线环境下测试大模型能力
常见问题
Ollama 支持哪些操作系统？
支持 macOS、Windows 和 Linux，并提供官方 Docker 镜像。
Ollama 是免费的吗？
是，Ollama 为免费开源项目，模型也为开源模型。
支持哪些模型？
支持 Llama、DeepSeek-R1、Mistral、Code Llama 等 40 多种模型，且持续增加。
来源与核验
信息来源：ollama.ai （在新窗口打开）
核验日期： · 提交更正 →
类似于Ollama的工具
该分类全部
MMLU
适合：需要衡量英文模型通用知识水平的研究者与选型工程师；不适合：评估生成质量、对话体验或中文能力的场景。
Watsonx.ai
适合需要全生命周期管理、企业级治理与合规要求的中大型企业与开发团队；不适合个人开发者、轻量实验或预算敏感的小型项目。
DeepFloyd IF
适合有一定技术基础、希望自托管和深入研究图像生成模型的开发者与研究人员；不适合只想在网页上输入提示词直接出图的普通用户。
HELM
适合需要多维、可复现评估语言模型的研究者与工程团队；不适合只想快速浏览单一榜单分数的用户。
PaLM 2
适合AI开发者、研究者和Google生态内的企业团队；不适合寻求开箱即用消费级聊天产品的普通用户。
Watsonx.ai
适合需要全生命周期管理、企业级治理与合规要求的中大型企业与开发团队；不适合个人开发者、轻量实验或预算敏感的小型项目。
DeepFloyd IF
适合有一定技术基础、希望自托管和深入研究图像生成模型的开发者与研究人员；不适合只想在网页上输入提示词直接出图的普通用户。
HELM
适合需要多维、可复现评估语言模型的研究者与工程团队；不适合只想快速浏览单一榜单分数的用户。
PaLM 2
适合AI开发者、研究者和Google生态内的企业团队；不适合寻求开箱即用消费级聊天产品的普通用户。