行业资讯
英伟达在官方博客中提出，AI工厂按兆瓦乃至吉瓦规模建设，每兆瓦成本约6000万美元，运营方只有在看清投资回报后才会投入这一量级的资本。
文章认为，AI工厂回报由三项因素决定：产能收益，即工厂满负荷出售全部token时一年的收入；使用寿命，即AI硬件持续产生收益的时间；需求，即市场对这些token的需求量。
三者相互关联，任何一项的短板都难以由其他项完全弥补。
英伟达称其AI工厂围绕这三点设计：高产，即每兆瓦吞吐量最高、每token成本最低；耐用，即GPU与系统在交付多年后仍能持续创收；通用，即可运行各阶段、各场景的各类AI，以及许多非AI工作负载，从而拓宽需求来源。
文章提到，全栈协同设计提升工厂吞吐量，持续软件优化让已装机硬件保持生产力，CUDA-X库支持运行各类加速负载，标准化架构使运营方可基于经验证的参考设计部署。
英伟达表示，其平台同时具备高产、耐用与通用特性，以此最大化AI工厂的投资回报。
https://blogs.nvidia.com/blog/productive-durable-fungible-ai-factories/
来源： 来源：NVIDIA Blog，作者 Shruti Koparkar
标签： AI、科技