PyPI
Elijas/token-throttle
Multi-resource rate limiting for LLM APIs. Reserve tokens before you call, refund what you don't use, stay under the limit across workers.
Apache-2.02026年8月28日 · 指标 2.10.0
全部标签
目录标签
#throttle-requests
公开记录中带有此标签的全部仓库——标签来自其 GitHub 主题或软件包注册表发布的关键词。健康度量遵循与记录其余部分相同的版本化方法论。
1 条记录