Nvidia L4 Tensor Core AI GPU
Tăng tốc xử lý video, trí tuệ nhân tạo và đồ họa
GPU NVIDIA L4 Tensor Core được trang bị kiến trúc NVIDIA Ada Lovelace mang đến khả năng tăng tốc toàn diện, tiết kiệm năng lượng cho video, trí tuệ nhân tạo, điện toán hình ảnh, đồ họa, ảo hóa và nhiều hơn nữa. Được thiết kế nhỏ gọn, L4 là giải pháp tiết kiệm chi phí và năng lượng hiệu quả, mang lại thông lượng cao và độ trễ thấp trên mọi máy chủ, từ thiết bị đầu cuối đến trung tâm dữ liệu và đám mây.
Trải nghiệm hiệu năng xử lý video AI thời gian thực
Chuyển đổi các ứng dụng video với sức mạnh của NVIDIA L4. Cho dù phát trực tiếp cho hàng triệu người xem, cho phép người dùng xây dựng những câu chuyện sáng tạo hay cung cấp trải nghiệm thực tế ảo và tăng cường (AR/VR) sống động, các máy chủ được trang bị L4 cho phép lưu trữ tới 1.040 luồng video AV1 đồng thời ở độ phân giải 720p30 cho người dùng di động.¹
Với lõi Tensor thế hệ thứ tư và bộ nhớ GPU lớn hơn 1,5 lần, GPU NVIDIA L4 kết hợp với thư viện CV-CUDA® đưa khả năng hiểu nội dung video lên một tầm cao mới. L4 mang lại hiệu năng video AI cao hơn 120 lần so với các giải pháp dựa trên CPU, cho phép các doanh nghiệp thu được thông tin chi tiết theo thời gian thực để cá nhân hóa nội dung, cải thiện mức độ liên quan của tìm kiếm, phát hiện nội dung không phù hợp và triển khai các giải pháp không gian thông minh.
1. Hiệu năng đo được: Mã hóa cài đặt trước P1 độ trễ thấp L4 AV1 8x ở độ phân giải 720p30.
Tiết kiệm năng lượng và không gian hơn với L4
Khi trí tuệ nhân tạo (AI) và video ngày càng phổ biến, nhu cầu về điện toán hiệu quả và tiết kiệm chi phí đang tăng lên hơn bao giờ hết. GPU NVIDIA L4 Tensor Core mang lại hiệu năng video AI tốt hơn tới 120 lần, giúp tiết kiệm năng lượng hơn tới 99% và giảm tổng chi phí sở hữu so với cơ sở hạ tầng dựa trên CPU truyền thống. Điều này cho phép các doanh nghiệp giảm không gian đặt thiết bị và giảm đáng kể lượng khí thải carbon, đồng thời có thể mở rộng trung tâm dữ liệu của họ cho nhiều người dùng hơn. Lượng năng lượng tiết kiệm được khi chuyển từ CPU sang NVIDIA L4 trong một trung tâm dữ liệu 2 megawatt (MW) có thể cung cấp điện cho gần 2.000 ngôi nhà trong một năm hoặc tương đương với lượng khí thải carbon từ 172.000 cây xanh được trồng trong 10 năm.²
Tăng tốc hiệu năng AI tạo sinh
AI tạo sinh cho hình ảnh và văn bản giúp hỗ trợ công việc thuận tiện hơn và trải nghiệm sống động hơn. NVIDIA L4 tăng cường mạnh mẽ khả năng suy luận AI tạo sinh đòi hỏi nhiều tài nguyên tính toán bằng cách mang lại hiệu năng cao hơn tới 2,5 lần so với thế hệ GPU trước đó. Và với dung lượng bộ nhớ lớn hơn 50%, L4 cho phép tạo ra hình ảnh lớn hơn, lên đến 1024×768, điều không thể thực hiện được trên thế hệ GPU trước đó.
Tối ưu hóa hiệu năng đồ họa
Với lõi RT thế hệ thứ ba và công nghệ NVIDIA Deep Learning Super Sampling 3 (DLSS 3) được hỗ trợ bởi trí tuệ nhân tạo, NVIDIA L4 mang lại hiệu năng cao hơn gấp 4 lần cho hình đại diện dựa trên AI, thế giới ảo NVIDIA Omniverse™, chơi game trên đám mây và máy trạm ảo. Những khả năng này cho phép người sáng tạo xây dựng đồ họa và cảnh quay chất lượng điện ảnh theo thời gian thực, mang đến trải nghiệm hình ảnh sống động mà CPU không thể làm được.
Tăng tốc khối lượng công việc một cách hiệu quả và bền vững
NVIDIA L4 là một phần không thể thiếu của nền tảng trung tâm dữ liệu NVIDIA. Được xây dựng cho video, trí tuệ nhân tạo (AI), máy trạm ảo NVIDIA RTX™ (vWS), đồ họa, mô phỏng, khoa học dữ liệu và phân tích dữ liệu, nền tảng này tăng tốc hơn 3.000 ứng dụng và có sẵn ở mọi nơi với quy mô lớn, từ trung tâm dữ liệu đến thiết bị biên và đám mây, mang lại cả hiệu suất vượt trội và cơ hội tiết kiệm năng lượng.
Được tối ưu hóa cho các triển khai phổ thông, L4 cung cấp kiểu dáng nhỏ gọn hoạt động trong phạm vi công suất thấp 72W, biến nó thành một giải pháp hiệu quả và tiết kiệm chi phí cho bất kỳ máy chủ hoặc phiên bản đám mây nào từ hệ sinh thái đối tác của NVIDIA.
Tối ưu hóa quá trình phát triển và triển khai với phần mềm AI dành cho doanh nghiệp
Được tối ưu hóa để tối ưu hóa quá trình phát triển và triển khai AI, bộ phần mềm NVIDIA AI Enterprise bao gồm các quy trình làm việc, khung, mô hình được đào tạo trước và tối ưu hóa cơ sở hạ tầng giải pháp AI, được chứng nhận chạy trên các nền tảng trung tâm dữ liệu phổ biến và các hệ thống NVIDIA-Certified Systems™ chính thống với GPU NVIDIA L4.
NVIDIA AI Enterprise là một giấy phép bổ sung cho GPU NVIDIA L4, giúp AI trở nên dễ tiếp cận với hầu hết mọi tổ chức với hiệu suất cao nhất trong đào tạo, suy luận và khoa học dữ liệu. NVIDIA AI Enterprise, cùng với NVIDIA L4, đơn giản hóa việc xây dựng nền tảng sẵn sàng cho AI, tăng tốc quá trình phát triển và triển khai AI, đồng thời mang lại hiệu suất, bảo mật và khả năng mở rộng để thu thập thông tin chi tiết nhanh hơn và đạt được giá trị kinh doanh sớm hơn.
Thông số kỹ thuật Nvidia L4
| Form Factor | L4 |
|---|---|
| FP32 | 30.3 teraFLOPs |
| TF32 Tensor Core | 120 teraFLOPS* |
| FP16 Tensor Core | 242 teraFLOPS* |
| BFLOAT16 Tensor Core | 242 teraFLOPS* |
| FP8 Tensor Core | 485 teraFLOPs* |
| INT8 Tensor Core | 485 TOPs* |
| GPU memory | 24GB |
| GPU memory bandwidth | 300GB/s |
| NVENC | NVDEC | JPEG decoders | 2 | 4 | 4 |
| Max thermal design power (TDP) | 72W |
| Form factor | 1-slot low-profile, PCIe |
| Interconnect | PCIe Gen4 x16 64GB/s |
| Server options | Partner and NVIDIA-Certified Systems with 1–8 GPUs |
* Shown with sparsity. Specifications are one-half lower without sparsity.


Đánh giá
Chưa có đánh giá nào.