AMD· @AMD · X·· 9 天前AI 评分58
AI 导读
AMD 宣布 Character.ai 在 DigitalOcean 上使用 AMD Instinct GPU，生产推理吞吐量翻倍，单 token 成本降低 50%。据称在相同算力占用下可服务更多用户并运行更先进的模型，详情见 https://bit.ly/3SrbO2q。
AI 生成摘要 · 以原文为准
正文
When inference is the operating budget, efficiency matters.
With AMD Instinct GPUs on @DigitalOcean, @Character_ai doubled production inference throughput and cut cost per token by 50%.
More room to serve users. More advanced models. Same compute footprint. Read more at https://bit.ly/3SrbO2q
来源：AMD · x.com