AI 工具
HN 热帖:不自建 LLM proxy,就不知道 agent 到底在干什么
一篇 10 月 18 日在 Hacker News 热传的博客主张,只靠厂商前端提供的用量图无法做工程决策,需要自己控制一层 LLM proxy,并列出五个理由:单端点接入多个 provider 与模型、按 key 记录调用日志、用虚拟密钥隔离主密钥、自控基础设施、快速切换 provider。作者回应「已有 OTel 导出选项」的说法,但仍认为这些理由成立。该帖在 HN 获 172 分、119 条评论。
对 AI 使用者意味着什么
官方 OTel 解决的是单厂商可观测性,多 provider、分账与密钥隔离仍留给工程侧;这个缺口会继续催生工具。
来源:jrdsgl.com ↗ 原文链接、Hacker News ↗ 原文链接
有具体工作流问题?联系咨询。新闻本身免费阅读。