NVIDIA L40S GPU是NVDIA推出的旗下GPU產品,NVIDIA L40S GPU基于NVIDIA Ada Lovelace架構。
專注于大規(guī)模GPU加速工作負載領域的CoreWeave是首批提供L40S實例的云服務提供商之一。
NVIDIA L40S GPU搭載第四代Tensor Core和FP8 Transformer Engine,可提供超過1.45 PFLOP的張量處理能力。對于擁有數十億個參數和多種數據模式(如文本和視頻)的復雜AI工作負載,與NVIDIA A100 Tensor Core GPU相比,L40S 能夠將生成式AI的推理性能和訓練性能分別提高1.2倍和1.7倍。