Nvidia L40s Ada Lovelace Architecture AI GPU
GPU đa năng mạnh mẽ nhất
Trải nghiệm hiệu năng đột phá với GPU NVIDIA L40S. Kết hợp khả năng tính toán AI mạnh mẽ với khả năng tăng tốc đồ họa và đa phương tiện hàng đầu, GPU L40S được thiết kế để đáp ứng nhu cầu xử lý các tác vụ trung tâm dữ liệu thế hệ tiếp theo – từ trí tuệ nhân tạo tạo sinh (GAI) và suy luận, huấn luyện mô hình ngôn ngữ quy mô lớn (LLM) đến đồ họa 3D, kết xuất và video.
Điểm nổi bật: Hiệu năng ấn tượng
Tensor Performance1,466 TFLOPS¹ |
RT Core Performance212 TFLOPS
|
Single-Precision Performance91.6 TFLOPS
|
1 Peak rates are based on GPU boost clock.
Trang bị kiến trúc NVIDIA Ada Lovelace
Bộ xử lý Tensor thế hệ thứ tư
Phần cứng hỗ trợ cấu trúc sparsity và định dạng TF32 được tối ưu hóa mang lại hiệu năng vượt trội, giúp huấn luyện mô hình AI và khoa học dữ liệu nhanh hơn. Tăng tốc khả năng đồ họa được nâng cao bởi AI với DLSS giúp nâng cao độ phân giải với hiệu năng tốt hơn trong một số ứng dụng nhất định.
Bộ xử lý RT thế hệ thứ ba
Tăng cường hiệu năng và khả năng xử lý đồng thời ray-tracing và đổ bóng giúp cải thiện hiệu suất, tăng tốc quá trình kết xuất cho thiết kế sản phẩm và kiến trúc, kỹ thuật và xây dựng. Trải nghiệm thiết kế sống động như thật với hiệu ứng làm mờ chuyển động được tăng tốc phần cứng và hoạt ảnh thời gian thực tuyệt đẹp.
Lõi CUDA
Tăng tốc độ xử lý số thực dấu phẩy động đơn chính xác (FP32) và cải thiện hiệu quả năng lượng giúp tăng đáng kể hiệu suất cho các quy trình làm việc như phát triển mô hình 3D và mô phỏng kỹ thuật hỗ trợ máy tính (CAE). Sử dụng khả năng toán học 16 bit nâng cao (BF16) cho các khối lượng công việc có độ chính xác cao.
Công cụ Transformer Engine
Transformer Engine tăng tốc đáng kể hiệu năng AI và cải thiện việc sử dụng bộ nhớ cho cả quá trình huấn luyện và suy luận. Khai thác sức mạnh của các lõi Tensor thế hệ thứ tư Ada Lovelace, Transformer Engine quét thông minh các lớp của mạng nơ-ron kiến trúc Transformer và tự động chuyển đổi giữa độ chính xác FP8 và FP16 để mang lại hiệu năng AI nhanh hơn và tăng tốc quá trình huấn luyện và suy luận.
Hiệu quả và Bảo mật
GPU L40S được tối ưu hóa cho hoạt động trung tâm dữ liệu doanh nghiệp 24/7 và được thiết kế, chế tạo, thử nghiệm và hỗ trợ bởi NVIDIA để đảm bảo hiệu suất, độ bền và thời gian hoạt động tối đa. GPU L40S đáp ứng các tiêu chuẩn trung tâm dữ liệu mới nhất, sẵn sàng cho Hệ thống Xây dựng Thiết bị Mạng (NEBS) Cấp độ 3 và có tính năng khởi động an toàn với công nghệ gốc tin cậy, cung cấp thêm một lớp bảo mật cho các trung tâm dữ liệu.
DLSS 3
GPU L40S cho phép kết xuất cực nhanh và tốc độ khung hình mượt mà hơn với NVIDIA DLSS 3. Công nghệ tạo khung hình đột phá này tận dụng học sâu và những cải tiến phần cứng mới nhất trong kiến trúc Ada Lovelace và GPU L40S, bao gồm các lõi Tensor thế hệ thứ tư và bộ tăng tốc luồng quang học, để tăng hiệu suất kết xuất, mang lại tốc độ khung hình mỗi giây (FPS) cao hơn và cải thiện đáng kể độ trễ.
Thông số kỹ thuật chi tiết NVIDIA L40S GPU
| GPU Architecture | NVIDIA Ada Lovelace architecture |
| GPU Memory | 48GB GDDR6 with ECC |
| Memory Bandwidth | 864GB/s |
| Interconnect Interface | PCIe Gen4 x16: 64GB/s bidirectional |
| NVIDIA Ada Lovelace Architecture-Based CUDA® Cores | 18,176 |
| NVIDIA Third-Generation RT Cores | 142 |
| NVIDIA Fourth-Generation Tensor Cores | 568 |
| RT Core Performance TFLOPS | 212 |
| FP32 TFLOPS | 91.6 |
| TF32 Tensor Core TFLOPS | 183 I 366* |
| BFLOAT16 Tensor Core TFLOPS | 362.05 I 733* |
| FP16 Tensor Core | 362.05 I 733* |
| FP8 Tensor Core | 733 I 1,466* |
| Peak INT8 Tensor TOPS Peak INT4 Tensor TOPS |
733 I 1,466* 733 I 1,466* |
| Form Factor | 4.4″ (H) x 10.5″ (L), dual slot |
| Display Ports | 4x DisplayPort 1.4a |
| Max Power Consumption | 350W |
| Power Connector | 16-pin |
| Thermal | Passive |
| Virtual GPU (vGPU) Software Support | Yes |
| vGPU Profiles Supported | See virtual GPU licensing guide |
| NVENC I NVDEC | 3x l 3x (includes AV1 encode and decode) |
| Secure Boot With Root of Trust | Yes |
| NEBS Ready | Level 3 |
| Multi-Instance GPU (MIG) Support | No |
| NVIDIA® NVLink® Support | No |
|
*With Sparsity |
|


Đánh giá
Chưa có đánh giá nào.