ollaya

Ollaya 是一个本地服务器，用于运行与 TypeSafe 的 Jev API 兼容的开源决策模型。它支持来自本地 ONNX 图和 GGUF 文件的模型，提供快速、校准的决策概率，无需生成文本。该服务器作为单个二进制文件运行，配备 CLI 命令，并支持 Jev 兼容的 HTTP API。运行服务器不需要外部数据文件，但模型会从作者的 Hugging Face 仓库中拉取。