在本機分析模型呼叫,看出 LLM 的錢花在哪。
Rodiun/frugon ↗, Python, MIT, 最近提交 6天前
帳單上的總額說不清 LLM 的錢是從哪裡漏掉的。Frugon 在你自己的機器上分析模型呼叫,把支出的去向攤開來看。它真正想回答的是:這些呼叫裡哪些換成更便宜的模型也一樣辦得到,於是省錢靠的是替換而不是少用。工具免費開源,相容多種 LLM,分析全程在本機完成。