跳到正文
SemiAnalysis· @SemiAnalysis_ · X·· 9 小时前AI 评分46
AI 导读

重大消息🚨:在广泛使用的生产级 LLM 推理引擎 @vllm_project 上,NVIDIA Rubin 的每吉瓦利润💰高出 3.2 倍,每美元性能甚至比 GB300 NVL72 高达 🚀 10 倍。我们在下面解释👇️(1/3)🧵

AI 生成摘要 · 以原文为准

正文

HOLY ALERT🚨: NVIDIA vLLM INFERENCE RUBIN IS 3.2x BETTER IN PROFIT💰️ PER GIGAWATT & HAS UP TO 🚀 10x BETTER PERF PER DOLLAR THAN EVEN GB300 NVL72. This is on the widely used production LLM engine called @vllm_project. We explain below.👇️(1/3)🧵

来源:SemiAnalysis · x.com