PyPI · crates.io
vllm-project/vllm
A high-throughput and memory-efficient inference and serving engine for LLMs
Apache-2.02026年9月16日 · 指标 2.10.0
全部标签
目录标签
#tpu
公开记录中带有此标签的全部仓库——标签来自其 GitHub 主题或软件包注册表发布的关键词。健康度量遵循与记录其余部分相同的版本化方法论。
8 条记录
PyPI · Go
skypilot-org/skypilot
The AI Compute Platform for frontier teams. SkyPilot turns fragmented AI compute into one AI supercomputer, so frontier AI teams build custom intelligence faster.
Apache-2.02026年8月26日 · 指标 2.10.0
PyPI
AI-Hypercomputer/xpk
xpk (Accelerated Processing Kit, pronounced x-p-k,) is a software tool to help Cloud developers to orchestrate training jobs on accelerators such as TPUs and GPUs on GKE.
Apache-2.02026年9月20日 · 指标 2.10.0
PyPI
google/torchax
torchax is a PyTorch frontend for JAX. It gives JAX the ability to author JAX programs using familiar PyTorch syntax. It also provides JAX-Pytorch interoperability, meaning, one can mix JAX & Pytorch syntax together when authoring ML programs, and run it in every hardware JAX can run.
Apache-2.02026年9月11日 · 指标 2.10.0
crates.io · npm · PyPI
dphnAI/sonar
Large-scale LLM inference engine
AGPL-3.02026年9月18日 · 指标 2.10.0
crates.io
rpcpool/yellowstone-jet
Solana QUIC transaction sender, with built in proxy and SwQoS support.
AGPL-3.02026年9月12日 · 指标 2.10.0
PyPI
AI-Hypercomputer/JetStream
JetStream is a throughput and memory optimized engine for LLM inference on XLA devices, starting with TPUs (and GPUs in future -- PRs welcome).
Apache-2.02026年9月10日 · 指标 2.10.0
PyPI
leanprover/KLR
A formalization of ML kernel languages
Apache-2.02026年9月19日 · 指标 2.10.0