Hacker News · Show HN· lognebudo·· 5 天前AI 评分60
LLMxRay 发布开源 LLM 可观测性工具,支持本地 Ollama 实时监控
Show HN: LLMxRay an open-source observability tool for LLMs
AI 导读
LLMxRay 是一个面向本地 LLM 的开源可观测性工具,提供实时 token 流式展示、质量分析、性能剖析与成本追踪,无需云端和 API key。它通过 npx llmxray 或 Docker 启动,前提是本地运行 Ollama 并已拉取至少一个模型。
来源:Hacker News · Show HN · github.com