1)rubin的机柜从单条192GB内存降为96GB,原因是192GB做agent推理仍然不够,做训练又显得冗余,因此调整为rubin标准机柜只满足训练与普通推理的内存需求。
2)agent推理的内存需求调整为通过Vera的CPU机柜来满足,一个Vera的CPU机柜配备256颗CPU,393TB内存。由客户自己根据业务选择需要配置多少比例的agent推理比例,不在通过rubin nvl72机柜来满足这部门内存需求。
3)CPU机柜与Rubin机柜通过scale out网络连接。
#当前不存在内存价格抑制AI需求的趋势,产品调整反而更合理。
out网络体系(交换机、光模块、CPO等),电源散热等配套。
1、本站部分资源源自互联网,如内容存在侵权行为或未标明出处的情况,您可通过邮箱 meiritouyan@qq.com 与我们联系,我们将尽快进行处理。
2、如遇本站资源无法下载、无法查看,请及时联系我们,我们将第一时间修复。
