[maychunhanh.vn] - GPU NVIDIA H100 cho AI - GPU NVIDIA Hopper mở rộng phạm vi tiếp cận khi nhu cầu về AI tăng lên

NVIDIA và các đối tác chính hôm nay đã công bố về các giải pháp sử dụng GPU NVIDIA H100 Tensor - GPU mạnh nhất thế giới dành cho AI — nhằm giải quyết nhu cầu ngày càng tăng về đào tạo và suy luận AI tổng hợp.

Cơ sở hạ tầng đám mây Oracle (OCI) đã công bố số lượng có hạn của các phiên bản GPU OCI Computing mới có GPU H100. Ngoài ra, Amazon Web Services đã công bố các phiên bản EC2 UltraClusters sắp ra mắt của Amazon EC2 P5, có thể mở rộng quy mô lên tới 20.000 GPU H100 được kết nối với nhau.

Ngoài ra, Meta hiện đã triển khai nội bộ siêu máy tính Grand Teton AI được hỗ trợ H100 cho các nhóm nghiên cứu và sản xuất AI của mình.

Người sáng lập và Giám đốc điều hành NVIDIA Jensen Huang đã công bố trong bài phát biểu quan trọng trên GTC hôm nay rằng siêu máy tính AI NVIDIA DGX H100 đang được sản xuất hoàn chỉnh và sớm đến với các doanh nghiệp trên toàn thế giới.

Huang cho biết: “Tiềm năng đáng kinh ngạc của AI sáng tạo đang truyền cảm hứng cho hầu hết mọi ngành công nghiệp để hình dung lại các chiến lược kinh doanh của mình và công nghệ cần thiết để đạt được chúng”. “NVIDIA và các đối tác của chúng tôi đang nhanh chóng cung cấp nền tảng điện toán AI mạnh mẽ nhất thế giới cho những ứng dụng xây dựng sẽ thay đổi căn bản cách chúng ta sống, làm việc và vui chơi.”

Kiến trúc Hopper tăng tốc AI
H100, dựa trên kiến ​​trúc điện toán GPU NVIDIA Hopper™ với Transformer Engine tích hợp, được tối ưu hóa để phát triển, đào tạo và triển khai AI tổng hợp, mô hình ngôn ngữ lớn (LLM) và hệ thống đề xuất. Công nghệ này sử dụng độ chính xác FP8 của H100 và cung cấp khả năng đào tạo AI nhanh hơn 9 lần và suy luận AI nhanh hơn tới 30 lần trên LLM so với A100 thế hệ trước. H100 bắt đầu được vận chuyển vào mùa thu với các đơn vị bo mạch riêng lẻ và chọn lọc từ các nhà sản xuất toàn cầu.



NVIDIA DGX H100 có tám GPU H100 được kết nối với các kết nối tốc độ cao NVIDIA NVLink® và mạng NVIDIA Quantum InfiniBand và Spectrum™ Ethernet tích hợp. Nền tảng này cung cấp 32 petaflop hiệu năng tính toán với độ chính xác FP8, với khả năng kết nối mạng nhanh hơn gấp 2 lần so với thế hệ trước, giúp tối đa hóa hiệu quả sử dụng năng lượng khi xử lý khối lượng công việc AI lớn.
DGX H100 cũng có bộ phần mềm NVIDIA AI hoàn chỉnh, cho phép các doanh nghiệp chạy và quản lý khối lượng công việc AI của mình một cách liền mạch trên quy mô lớn.

Những người tiên phong về AI áp dụng H100

Một số người tiên phong trong lĩnh vực AI sáng tạo đang áp dụng H100 để tăng tốc công việc của họ:

• OpenAI đã sử dụng tiền thân của H100 - GPU NVIDIA A100 - để đào tạo và chạy ChatGPT, một hệ thống AI được tối ưu hóa cho đối thoại, được hàng trăm triệu người trên toàn thế giới sử dụng trong thời gian kỷ lục. OpenAI sẽ sử dụng H100 trên siêu máy tính Azure để hỗ trợ quá trình nghiên cứu AI liên tục của mình.
• Meta ,một đối tác công nghệ quan trọng của NVIDIA, đã phát triển hệ thống siêu máy tính AI Grand Teton dựa trên Hopper với nhiều cải tiến về hiệu suất so với phiên bản tiền nhiệm Zion, bao gồm băng thông từ máy chủ đến GPU gấp 4 lần, băng thông mạng dữ liệu và tính toán gấp 2 lần cũng như gấp 2 lần băng thông mạng dữ liệu. phong bì điện. Với khả năng tính toán lớn hơn này, Grand Teton có thể hỗ trợ cả việc đào tạo và suy luận sản xuất của các mô hình đề xuất deep learning cũng như hiểu nội dung.
• AI ổn định, công ty tiên phong về AI tạo văn bản thành hình ảnh, là khách hàng có quyền truy cập sớm H100 trên AWS. Stability AI có kế hoạch sử dụng H100 để tăng tốc các mô hình video, 3D và đa phương thức sắp tới của mình.
• Twelve Labs , một nền tảng cho phép các doanh nghiệp và nhà phát triển tiếp cận khả năng hiểu video đa phương thức, có kế hoạch sử dụng phiên bản H100 trên Siêu cụm OCI để tạo video ngay lập tức, thông minh và dễ dàng tìm kiếm.
• Anlatan , người tạo ra ứng dụng NovelAI để viết truyện và tổng hợp văn bản thành hình ảnh được AI hỗ trợ, đang sử dụng các phiên bản H100 trên nền tảng đám mây của CoreWeave để tạo và suy luận mô hình.

Tăng tốc an toàn tải công việc từ quy mô doanh nghiệp sang exascale
GPU NVIDIA H100 có Core Tensor thế hệ thứ tư và Transformer Engine với độ chính xác FP8, mở rộng hơn nữa khả năng dẫn đầu về AI trên thị trường của NVIDIA với khả năng đào tạo nhanh hơn tới 9X và tốc độ suy gấp thảo luận 30 lần trên các ngôn ngữ mô hình lớn (LLM). Đối với các ứng dụng điện toán hiệu suất cao (HPC), H100 tăng gấp ba lần phép tính dấu phẩy động trên giây (FLOPS) của FP64 và bổ sung các trình điều khiển lệnh (DPX) để mang lại hiệu suất cao hơn gấp 7 lần. Với GPU đa phiên bản (MIG) thế hệ thứ hai, tính năng tích hợp tính toán bảo mật NVIDIA và NVIDIA NVLink switch, H100 tăng tốc độ toàn bộ khối lượng công việc cho mọi trung tâm dữ liệu, từ doanh nghiệp đến cấp exascale.

 





DGX H100 đang được sử dụng ở đâu

Các nhà đổi mới trên toàn thế giới đang nhận được làn sóng hệ thống DGX H100 đầu tiên, bao gồm:

• CyberAgent , một công ty dịch vụ internet và quảng cáo kỹ thuật số hàng đầu có trụ sở tại Nhật Bản, đang tạo quảng cáo kỹ thuật số do AI sản xuất và hình đại diện song sinh kỹ thuật số nổi tiếng, sử dụng hoàn toàn các công nghệ AI và LLM tổng hợp.
• Phòng thí nghiệm Vật lí Ứng dụng của Đại học Johns Hopkin, trung tâm nghiên cứu liên kết với trường đại học lớn nhất của Hoa Kỳ, sẽ sử dụng DGX H100 để đào tạo LLM.
• Viện Công nghệ Hoàng gia KTH , một trường đại học kỹ thuật và kỹ thuật hàng đầu Châu Âu có trụ sở tại Stockholm, sẽ sử dụng DGX H100 để cung cấp các chương trình khoa học máy tính tiên tiến nhất cho giáo dục đại học.
• Mitsui , một trong những tập đoàn kinh doanh hàng đầu của Nhật Bản, có nhiều hoạt động kinh doanh trong các lĩnh vực như năng lượng, chăm sóc sức khỏe, CNTT và truyền thông, đang xây dựng siêu máy tính AI thế hệ đầu tiên của Nhật Bản để khám phá ma túy, được cung cấp bởi DGX H100.
• Telconet , nhà cung cấp viễn thông hàng đầu ở Ecuador, đang xây dựng các phân tích video thông minh cho các thành phố an toàn và dịch vụ ngôn ngữ để hỗ trợ khách hàng trên các phương ngữ Tây Ban Nha.

                                                                                                                                                           Biên soạn nội dung: Team Marketing MCN
 

==========================
Công Ty Cổ Phần Máy Chủ Nhanh
ĐT: 024.8585.7899;   Hotline: 0888.002.000
MÁY CHỦ - SERVER - MÁY TRẠM - WORKSTATION - LINH KIỆN MÁY CHỦ - GIẢI PHÁP MÁY CHỦ - NETWORK 
SOFTWARE - THIẾT BỊ LƯU TRỮ NAS - LAPTOP - PC - DESKTOP - WINDOWNS SERVER - SQL SERVER - OFFICE