NVIDIA H100 NVL: Guherkerek Lîstikek Di Hesabkirina Lezkirî de

Danasîna Yekeyên Pêvajoya Grafikê (GPU) di pîşesaziya komputerê de şoreşek kir, ku NVIDIA pêşengiya ajokar dike. Pêşniyara herî dawî ya pargîdaniyê, ya Nvidia H100 NVL, şahidiyek e ku pabendbûna wê ye ku sînorên ku di hesabkirina bilez de gengaz e.

Performansa bêhempa û Scalability

Ew Nvidia H100 NVL ecêbek teknolojiya nûjen e, ku performansa bêhempa, mezinbûn û ewlehiyê pêşkêşî dike.

Pergala Guhestina NVIDIA NVLink dihêle ku ew bi hêsanî her barê xebatê birêve bibe. Ev pergal ji bo pêwendiya heya 256 H100 GPU-yê gengaz dike, ku di encamê de zêdebûnek girîng di kapasîteyên hesabkirina bilez de çêdike.

Wekî din, NVIDIA NVL xwedan motorek Transformerek pispor e. Di heman demê de ev motor tê armanc kirin ku modelên zimên bi trîlyon-parametre bi rê ve bibe, peywirek ku pir GPU-yê wê dijwar bibîne.

Pêşkeftinên teknolojîk ên hevgirtî yên NVIDIA H100 NVL dibe ku modelên zimanên mezin (LLM) bi 30X-ya ecêb li ser nifşê berê bilez bikin, di heman demê de ew di AI-ya axaftinê de jî dike pêşeng.

NVIDIA H100 NVL Encama Modela Zimanê Mezin a Supercharged

Ew Nvidia H100 NVL ne tenê li ser hêza xav e; ew jî li ser hûrgelê ye. NVIDIA H100 bi pira NVLink re bi karanîna Motora Transformer, NVLink, û 175 GB bîra HBM188 ji bo LLM-ên bi 3 mîlyar parametreyan performansa çêtirîn peyda dike.

Di heman demê de ev tevlihevî pîvandina hêsan li her navendek daneyê dihêle, LLM-ê di nav rêza bingehîn de vedigire.

Pêşkêşkerên bi GPU-ya NVIDIA H100 NVL dikarin performansa modela GPT-175B heya 12X li ser pergalên NVIDIA DGX A100 zêde bikin.

Ev pêşkeftina performansê dema ku derengiya kêm di senaryoyên navenda daneyê ya bi hêz-sînordar de diparêze pêk tê, ku karbidestiya H100 NVL destnîşan dike.

Pejirandina Enterprise AI-ya NVIDIA H100 NVL

Pejirandina AI-ê di pargîdaniyan de naha serekî ye, û rêxistin hewceyê binesaziya AI-amade ya dawî-bi-dawî ne. Ew Nvidia H100 NVL GPU-yên ji bo serverên sereke bi abonetiyek pênc-salî, tevî piştgiriya pargîdanî, ji pakêta nermalava NVIDIA AI Enterprise re tê.

Vê pakêtê pejirandina AI-ê bi rê ve dibe ku rêxistinan bigihîjin çarçowe û teknolojiyên AI-yê yên ku ji bo avakirina pêvajoyên AI-ê-lezkirî yên H100-ê yên wekî chatbotên AI-ê, motorên pêşniyarê, vîzyon AI, û hêj bêtir hewce ne.

Bi Ewle Lezkirina Karkeran

Ew Nvidia H100 NVL ne tenê li ser performansa û mezinbûnê ye; ew jî li ser ewlehiyê ye. GPU armanc e ku bi ewlehî barkêşên xebatê yên ji pargîdanî bigire heya exascale bilez bike.

Ew xwedan Corên Tensor ên nifşê çaremîn û motorek Transformer a bi rastbûna FP8 e, ku dihêle ku ji bo modelên GPT-4 (3B) ji dubareya berê heya 175X perwerdehiya bileztir were dayîn.

Kombînasyona nifşa çaremîn NVLink, ku 900 GB/s ji hevgirêdana GPU-to-GPU peyda dike; Tora NDR Quantum-2 InfiniBand, ku pêwendiya her GPU-yê di nav girêkan de bilez dike; PCIe Gen5; û nermalava NVIDIA Magnum IO pîvandina bikêrhatî ji pergalên pargîdaniya piçûk berbi komên GPU yên girseyî û yekbûyî ve dihêle.

Encama Fêrbûna Kûr a Rastî ya NVIDIA H100 NVL

Ew Nvidia H100 NVL Bi gelek pêşkeftinên ku encamnameyê bi qasî 30X bileztir dikin û derengiya herî kêm peyda dike, rêberiya encamdana pêşeng a bazarê ya NVIDIA dirêj dike.

Tensor Cores-nifşa çaremîn hemî rasthatinan bilez dikin, di nav de FP64, TF32, FP32, FP16, INT8, û naha FP8, karanîna bîranînê kêm dikin û performansê zêde dikin dema ku rastbûna LLM-ê diparêzin.

Computing-Performansa Bilind a Exascale

Ew Nvidia H100 NVL Operasyonên xala herikandinê di çirkekê de (FLOPS) yên Tensor Cores-dûrtrast sê caran sê caran dike, ji bo HPC-ê 60 teraflops jimareya FP64 peyda dike. Dibe ku serîlêdanên HPC-ê yên bi AI-ê veqetandî di heman demê de rastbûna TF100 ya H32-ê bikar bînin da ku bigihîjin yek petaflop performansê ji bo operasyonên pirjimar-matrîsa yek-rast-rast dema ku hewcedariya guheztina kodê tune.

Analîza Daneyên Lezkirî NVIDIA H100 NVL

Ew Nvidia H100 NVL Hêza hesabkirinê peyda dike - li gel 3 terabytes di çirkeyê de (TB / s) firehiya bîranînê ya her GPU û pîvandinê bi NVLink û NVSwitch-ê re - da ku analîzên daneyê bi performansa bilind û pîvana ku piştgirî bide danehevên girseyî.

Mîmariya navenda daneyê ya NVIDIA, dema ku bi NVIDIA Quantum-2 InfiniBand, nermalava Magnum IO, Spark 3.0-ya GPU-lezkirî, û NVIDIA RAPIDS re were hev kirin, bi rengek bêhempa tête peyda kirin ku van barkêşên xebata girseyî bi astên performans û kargêriya bêhempa bilezîne.

Karanîna Enterprise-Amade ye

NVIDIA H100 NVL teknolojiya GPU Multi-Instance (MIG) ya nifşa duyemîn vedihewîne, ku karanîna GPU-yê herî zêde bi dabeşkirina wê li heft mînakên cihêreng zêde dike.

Di heman demê de bi piştgiriya komputera nepenî, ya Nvidia H100 NVL destûrê dide karanîna ewledar, dawî-bi-dawî, pir-kirêdar, ku wê ji bo hawîrdorên peydakerê karûbarê cloud (CSP) îdeal dike.

Bi NVIDIA H100 NVL re Hesabkirina Nepenî ya çêkirî

NVIDIA Confidential Computing taybetmendiyek ewlehiyê ya çêkirî ya mîmariya Hopper e ku dike Nvidia H100 NVL yekem bilezkerê cîhanê bi kapasîteyên hesabkirina nehênî.

Bikarhêner dikarin ewlehî û yekparebûna dane û serîlêdanên xwe biparêzin dema ku ji lezkirina bêhempa ya GPU-yên H100 sûd werdigirin.

Performansa bêhempa ji bo AI û HPC-ya Mezin

Mîmariya NVIDIA Grace Hopper CPU+GPU, ku armanc ji bo hesabkirina bilez a terabyte-yê hatî çêkirin û 10X performansa mezintir li ser modela mezin a AI û HPC-ê çalak dike, di heman demê de dê ji hêla Hopper Tensor Core GPU ve jî were hêz kirin.

NVIDIA Grace CPU ji nermbûna mîmariya Armê bikar tîne da ku mîmariya CPU û serverek ji binî jor ve ji bo hesabkirina bilez hatî çêkirin hilberîne.

Hopper GPU bi navbeynkariya çîp-to-çîp a ultra-lez a NVIDIA ve bi Grace CPU ve girêdayî ye, ku 900 GB/s bandfireh peyda dike, ku ji PCIe Gen7 5X zûtir e.

Specification Product

Li vir tabloyek berhevdanê ye H100 NVL di faktorên cûrbecûr de:

Fikirîn Final

Ew Nvidia H100 NVL di cîhana komputera bilez de lîstikvanek e. Performansa wê, mezinbûn û ewlehiya wê dê AI, HPC, û hem jî analîzên daneyê veguherîne. Hêza H100 NVL-hêza pêşeroj e.

H100 NVL dilsoziya NVIDIA-yê ji hesabkirina bilez re nîşan dide ku bi jimartina modela zimanê mezin ve zêde dike û di heman demê de hesabkirina veşartî peyda dike. H100 NVL dê pêşeroja komputerê çêbike.

Youtube Vîdyo Derbarê NVIDIA H100 NVL

Hun her weha dikanin Like

Feydeyên Cloud Computing Ji bo Karsaziyên Piçûk

10 Lîstikên Komputerê yên Herî Serdemê

Pirs û Bersîv