谷歌云近日宣布將提供G2虛擬機的非公開預(yù)覽,成為首家提供NVIDIA L4 Tensor Core GPU的云服務(wù)商。此外,L4 GPU將在Vertex AI上提供優(yōu)化支持,該平臺現(xiàn)在支持構(gòu)建、調(diào)整和部署大型生成式AI模型。
NVIDIA新一代通用L4 Tensor Core GPU,適用于視頻、視覺計算、圖形、虛擬化、生成人工智能等廣泛應(yīng)用。L4可達T4 GPU 2.7倍的生成式人工智能性能,圖形性能上升達4倍,人工智能視頻工作管線更可支持即時運算,特別的是,由于L4添加FP8支持,因此能夠更好地執(zhí)行機器學(xué)習(xí)推理運算。
NVIDIA L4 Tensor Core GPU采用第4代張量核心的Ada Lovelace架構(gòu),以及第3代RT核心,擁有高達24 GB GDDR6的顯卡內(nèi)存,支持Shader execution reordering技術(shù),能夠改善著色性能,同時也支持包括AV1解編碼等圖像和視頻硬件加速處理引擎。
在FP32精度性能可達30 TFLOPS,在FP16精度下,更能擁有高達運算能力242 TFLOPs,而且L4 GPU除了INT8、BFLOAT16和TF32精度之外,還添加支持FP8,使得L4 GPU更適合執(zhí)行機器學(xué)習(xí)推理工作負載。
L4 GPU的各項性能都高于T4 GPU數(shù)倍,除了生成式人工智能性能的執(zhí)行性能提升至2.7倍之外,由于第3代RT核心以及人工智能加持的DLSS 3,L4能夠勝任圖形密集運算工作,在Omniverse、云計算游戲和虛擬工作站上,可以提供4倍于T4的圖形性能,甚至可以用于即時計算電影品質(zhì)的場景。
新GPU在影音處理上非常出色,搭載L4 GPU的服務(wù)器能夠以720p 30的分辨率,同時支撐超過1000個AV1視頻流媒體,此外,L4 GPU還可以將多種分辨率和格式流媒體傳輸至多個平臺,進而支持在社交媒體平臺等更多頻道上的視頻播放。