它是什么
Ollama 是 2023 年发布的开源工具，让用户在本机用一条命令下载并运行开源语言模型。它把量化后的权重、推理运行时与模型管理打包在一起，底层基于 llama.cpp 等推理实现。它解决的是本地部署开源模型时环境配置与依赖管理繁琐的问题。
为什么值得记住
它把权重、运行时与模型管理收进一条命令，使「在本机跑一个模型」从工程任务变成日常操作。
关键规格
- 后端
- 基于 llama.cpp 等推理实现
- 支持平台
- macOS、Linux、Windows
- 分发方式
- 量化权重随模型一起管理
它是什么
Ollama 是 2023 年发布的开源工具，让用户在本机用一条命令下载并运行开源语言模型。它把量化后的权重、推理运行时与模型管理打包在一起，底层基于 llama.cpp 等推理实现。它解决的是本地部署开源模型时环境配置与依赖管理繁琐的问题。
为什么值得记住
它把权重、运行时与模型管理收进一条命令，使「在本机跑一个模型」从工程任务变成日常操作。