LiteLLM Proxy怎么用?从统一模型接口到虚拟密钥与调用日志的入门指南
LiteLLM Proxy可以作为独立模型网关,让应用通过同一个地址调用不同提供商的模型。本文从双模型配置和最小请求出发,说明模型别名、环境变量密钥、流式响应的关系,再介绍管理密钥与虚拟密钥的分工,以及调用状态、延迟、使用量的记录方式和敏感
小睿AI导航 ARTICLE · TAG
标签聚合页 · 共 1 个文章
LiteLLM Proxy可以作为独立模型网关,让应用通过同一个地址调用不同提供商的模型。本文从双模型配置和最小请求出发,说明模型别名、环境变量密钥、流式响应的关系,再介绍管理密钥与虚拟密钥的分工,以及调用状态、延迟、使用量的记录方式和敏感