🏷#llama.cpp

llama.cpp怎么用？从GGUF模型加载到本地对话与API服务的入门指南

llama.cpp负责运行模型，GGUF文件则包含模型权重及相关元数据。本文从安装和模型检查开始，演示用llama-cli进行本地对话，并用llama-server启动仅监听本机的服务接口，最后说明如何检查输出、内存和日志。