Intel@intelAI 评分3636将 AI 从试点推向生产,并不意味着要更换你的基础设施。
最新的 MLPerf Inference v6.1 结果显示,持续的软件和系统级优化使 Intel Xeon 处理器相比 v6.0 实现了 2.4 倍的 Llama 3.1 8B 服务器吞吐量提升和 56% 的离线吞吐量提升。
了解详情:https://www.intel.com/content/www/us/en/newsroom/news/data-center/intel-software-optimizations-boost-ai-inference-in-mlperf-v6-1.html
AI 生成摘要 · 以原文为准