新闻动态
News
首页 > 新闻动态 > 产品资讯
返回

全新NVIDIA L40S GPU强势来袭!


NVIDIA GPU 通过其技术优势已经成为 AI 计算的行业标准,对整个 AI 产业发展产生了重要影响。AI 客户选择 NVIDIA 产品可以获得最优秀的硬件性能、软件生态以及企业级的支持和服务。


1.png

 

使用下一代人工智能的企业将有极大可能性增加 10% 或更多的收入,但企业必须投资人工智能基础设施才能充分获得收益。在 SIGGRAPH 2023 上,NVIDIA 宣布推出全新的 NVIDIA L40S GPU 以及搭载 NVIDIA L40S GPU 的 NVIDIA OVX 服务器。NVIDIA L40S GPU 和 OVX 服务器主要针对生成式人工智能模型的训练和推理环节,有望进一步提升生成式人工智能模型的训练和推理场景下的计算效率。


NVIDIA L40S GPU 基于 Ada Lovelace 架构,配备有 48GB 的 GDDR6 显存和 846GB/s 的带宽。在第四代 Tensor 核心和 FP8 Transformer 引擎的加持下,可以提供超过 1.45 PFLOPS 的张量处理能力。根据 NVIDIA 给出的数据,在微调(Fine-tune)和推理场景的测试用例下,NVIDIA L40S GPU 的计算效率非常高。

 

2.png


对于算力要求较高的任务,L40S的18,176个CUDA核心可以提供极高的单精度浮点(FP32)性能,从而加速复杂计算和数据密集型分析。


3.png


对于具有数十亿参数和多种数据模式(如文本和视频)的复杂AI工作负载,NVIDIA L40S GPU可实现极强的AI推理性能、训练性能和极快的渲染速度,启用DLSS3时Omniverse渲染速度还可大幅提高。


4.png


为了支持实时渲染、产品设计和3D内容创建等高保真的专业可视化工作流程,NVIDIA L40S GPU内置有142个第三代RT核心,可提供212 TFLOPS的光追性能。


5.png


此外,NVIDIA L40S GPU还配备了142个第三代RT核心,可以提供212 TFLOP的光线追踪性能,功耗同时也达到了350瓦。可支持如实时渲染、产品设计和3D内容创建等专业视觉处理工作。


上一篇:Omnisky-Brain MLOps——医学影像研发运营一