有什么开源的压测工具可以对 openai chatgpt 规范的接口进行压测 - V2EX

首页注册登录

V2EX = way to explore

V2EX 是一个关于分享和探索的地方

现在注册

已注册用户请登录

V2EX 提问指南

这是一个创建于 330 天前的主题，其中的信息可能已经有所发展或是发生改变。

用 vllm 部署的，用的 openai chatgpt 接口规范，现在想压测一下，除了 vllm 自带的 benchmark工具，还有什么可选的开源工具吗？

目前尚无回复

压测 vllm openai chatgpt

关于 · 帮助文档 · 博客 · API · FAQ · 实用小工具 · 2739 人在线 最高记录 6679 ·

Select Language

创意工作者们的社区

World is powered by solitude

VERSION: 3.9.8.5 · 20ms · UTC 12:34 · PVG 20:34 · LAX 04:34 · JFK 07:34
Developed with CodeLauncher
♥ Do have faith in what you're doing.