跳到正文
原文
Hacker News · Show HN· lognebudo·· 5 天前AI 评分60

LLMxRay 发布开源 LLM 可观测性工具,支持本地 Ollama 实时监控

Show HN: LLMxRay an open-source observability tool for LLMs

AI 导读

LLMxRay 是一个面向本地 LLM 的开源可观测性工具,提供实时 token 流式展示、质量分析、性能剖析与成本追踪,无需云端和 API key。它通过 npx llmxray 或 Docker 启动,前提是本地运行 Ollama 并已拉取至少一个模型。

来源:Hacker News · Show HN · github.com