英伟达Vera CPU测试显示AI智能体编排性能提升,支持高并发推理
英伟达7月21日表示,AI云平台DeepInfra测试显示,Vera CPU相比其他CPU产品,在AI智能体工作负载下可实现最高2.2倍编排速度提升,并支持最高1.6倍更多智能体并发运行。
DeepInfra表示,其平台每周处理近5万亿Token,其中约30%来自智能体应用。
英伟达称,随着AI智能体承担更多推理、规划和工具调用任务,CPU在模型调用过程中的调度效率将成为AI基础设施性能的重要因素。
相关产品 >
-
FET4418-C核心板
S5P4418核心板基于三星四核Cortex-A9 S5P4418方案设计。S5P4418核心板强大的多媒体性能,支持双屏同显异步显示。S5P4418核心板320PIN引脚将CPU资源全部引出,扩展更丰富。如需S5P4418解决方案,S5P4418多媒体解决方案,S5P4418硬件方案,可咨询400-885-3357咨询客服。 了解详情
-
FET3568-C核心板
RK3568性能强而稳 国产芯|嵌入式RK3568系列核心板,采用瑞芯微国产高性能AI处理器RK3568设计生产,RK3568兼具CPU、GPU、NPU、VPU于一身,RK3568 性能、性价比在同类产品中具有较高优势,RK3568处理器是一款定位中高端的通用型SoC, RK3568核心板主要面向工业互联网、HMI、NVR存储、车载中控、工业网关等领域。目前RK3568系列已经批量稳定出货
了解详情

