Ollama怎么用？从安装本地模型到调用API的完整入门指南

Ollama的定位是帮助用户在个人电脑上下载、管理并运行大语言模型。它提供命令行工具和本地HTTP接口，适用于macOS、Windows和Linux。安装完成后，模型推理主要发生在本机，文本通常不需要发送到第三方云端；但具体模型的许可证、数据来源和硬件支持仍需单独核对。

安装后先确认环境

从Ollama官方渠道获取适合操作系统的安装程序，完成安装后打开终端或命令提示符。可以使用ollama -v检查命令是否可用。首次运行时，系统可能需要下载模型文件，因此应提前确认磁盘空间和网络连接。不同版本的安装界面和系统要求可能变化，遇到问题时应以对应版本的官方说明为准。

模型管理常用命令

使用ollama list查看本机已经安装的模型；使用ollama pull 模型名下载模型，例如选择一个自己确认过许可证和来源的模型；使用ollama run 模型名启动交互式对话。模型名称和可用标签取决于模型库中的实际条目，不应把示例名称当成固定清单。

不再需要某个模型时，可使用ollama rm 模型名删除本地文件。运行中的模型可以通过ollama ps查看。下载前最好先检查模型大小、量化方式、上下文长度和适用硬件，避免因为空间或内存不足导致运行失败。

如何评估本机资源

模型文件占用主要体现为磁盘空间，模型加载和推理则需要内存或显存。文件大小并不等于运行时的全部内存需求，运行框架、上下文缓存以及并发请求也会增加占用。上下文长度越大，处理长文本时通常需要更多缓存；参数规模、量化方式和提示词长度也会影响响应速度。

同一个模型在不同电脑上的表现可能不同。设备支持GPU加速时，部分计算可能更快；不具备合适GPU时，也可能使用CPU运行，但速度和可处理的上下文规模会受影响。因此，不要把某个模型的最低配置套用到所有设备上，实际使用前应查看模型说明并进行小规模测试。

本地API的基本调用方式

Ollama通常会在本机提供端口为11434的HTTP服务。生成接口一般为POST http://127.0.0.1:11434/api/generate，请求体可包含model、prompt和stream字段。例如，可以提交一个模型名，把一段文章放入提示词，并将stream设为false，以便一次性取得结果。对话场景还可以使用/api/chat接口，并按角色传入system、user等消息。

实际应用中，脚本或网页后端可以向本地接口发送一段文本，请模型完成摘要、改写或分类，再把返回结果展示给用户。测试时应控制输入长度，并处理超时、模型不存在、服务未启动和返回内容不完整等情况。也可以用同一段文本分别交给不同参数规模或不同量化版本的模型，对比响应时间、输出质量和资源占用。

安全与合规提醒

本地接口适合在可信设备上使用，默认仅绑定本机地址时风险相对可控。不要在没有身份认证、访问控制和网络防火墙保护的情况下，把接口直接暴露到公网；如确有跨设备访问需求，应限制监听地址、来源IP和访问权限，并考虑反向代理、认证、日志和速率限制。

最后，模型可以在本地运行，并不代表一定免费、一定比云端更快或没有使用限制。发布应用前，应核对模型许可证、下载来源、商业使用条款、硬件兼容性以及输入数据的隐私要求。