爱意满满的作品展示区。
v2reach

做了个开源工具,想请 V2EX 老哥看看这个需求到底是不是伪需求

  •  
  •   v2reach · 3h 41m ago · 548 views

    事情是这样的——我们团队每月 OpenAI API 账单大概 $10K-$15K ,但每次被问到「钱花哪了」,所有人都答不上来。哪个 prompt 最烧钱?哪个模型被滥用了?哪个项目的 AI 成本最高?统统黑箱。

    月底 CTO 拿着 OpenAI 的 CSV 账单问工程师,工程师也只能说「大概…可能…」。

    于是我萌生了一个想法:做一个专门给 LLM API 做成本归因的开源工具。

    核心逻辑很简单:

    1. Python SDK 拦截 OpenAI / 兼容 API 的调用(一行 cost_co_pilot.init() 接入)
    2. 自动识别:哪个项目?哪个功能模块?哪个 Prompt ?哪个模型?哪个环境?
    3. 数据发到自部署的 Docker Dashboard 上,实时看成本总览、归因下钻、趋势图

    关键设计原则:

    • 开源 MIT ,数据不出自己服务器
    • SDK 只上报 Token 数量和模型元数据,不碰 API Key 和业务内容
    • 接入不影响业务,异步非阻塞,异常降级不报错
    • Docker Compose 一键部署,无需外部依赖

    现在 MVP 还没做完(预计 5 周),但我心里一直没底,想先来问问大家:

    1. 这个痛点真实吗?你们团队真的不知道 LLM API 的钱花哪了?还是说其实有办法管?
    2. 如果知道有这么个开源工具,你愿意在自己项目里接入吗?顾虑是什么?性能?隐私?接入成本?
    3. 市面上有没有类似定位的工具? Langfuse 我知道有成本追踪但只是子功能,Datadog 太大太重,还有其他竞品吗?
    4. 对于「让开发者一眼看穿 API 账单」这件事,你觉得值多少钱?如果后续有商业版(智能降本建议等),会愿意付费吗?

    无论踩还是赞,都欢迎来聊聊。创业方向偏了 5 度,5 个月后就差了十万八千里,想听听大家的真实声音。

    11 replies    2026-05-15 18:01:31 +08:00
    MENGKE
        1
    MENGKE  
       3h 32m ago
    先说结论:伪需求

    1. 各大 AI 后台统计已经很详细了
    2. 没几家变态公司能拿着账单问 token 花在了哪
    wu00
        2
    wu00  
       3h 26m ago
    有的有的,一定要碰隐私才有市场;
    因为隐私这一块大厂不敢做,但是使用方管理层很想要!
    比如 token 都花在哪了,有没有私用,采纳率多少,提效了多少,最好能直接生成 PPT
    Tink
        3
    Tink  
    PRO
       3h 7m ago
    肯定是有需求的,能精确到某个项目的某个模块,那可 tql
    383394544
        4
    383394544  
       3h 3m ago
    我最近可能有这个需求(新项目要统计成本),正在想能不能将诊断信息塞进 OpenRouter 的 metamask 里。这个自建模块感觉太重
    383394544
        5
    383394544  
       3h 1m ago
    @383394544 是 metadata 哈哈哈,钱包用多了打得太顺手了。
    afstyle
        6
    afstyle  
       2h 52m ago
    我司是各买各的,然后每个月统一报销,报的多了去问下报销人,自然知道哪里用的比较多了
    zhonghao01
        7
    zhonghao01  
       2h 49m ago
    不是伪需求。 有的公司是统一一个买 token ,然后自己内部中转。 中转的接口是公司网络可用。并且能够自由管理每个员工可用额度,做了什么,顺便分析你做的自己的项目还是公司的项目。
    94
        8
    94  
       2h 34m ago
    有的,一般如果是采购的 Teams 版本都会有吧。

    比如说阿里的 Qoder 有这个功能,可以分析到员工具体使用在了那个代码仓库,每天的生成比例、采纳率。这还只是前几天点进去的时候看了一眼,还没有具体研究。
    nomansky
        9
    nomansky  
       2h 29m ago
    这不就是 Cursor Team Plan 的后台功能么,AI 入口工具和模型公司这是必备功能的,没有的后期也会完善,我想不到这个的开源的意义在哪里。
    Sezxy
        10
    Sezxy  
       2h 20m ago
    newapi 做中转,每人分配一个 key ,把 token 统计落到个人不久好了吗
    bannetlee
        11
    bannetlee  
       1h 59m ago
    快进到禁止员工使用 AI 做跟工作无关的事情,每日统计员工的 token 使用情况,并用 AI 分析 token 跟工作的相关度,相关度低于 80%的开除处理
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   2894 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 79ms · UTC 12:01 · PVG 20:01 · LAX 05:01 · JFK 08:01
    ♥ Do have faith in what you're doing.