Nvidia က Blackwell Ultra B300 AI GPU နှင့် မျိုးဆက်သစ် Vera Rubin လမ်းပြမြေပုံကို ထုတ်ဖော်ပြသ

Image via TechSpot

Nvidia CEO ဖြစ်သူ Jensen Huang ဟာ ကုမ္ပဏီရဲ့ ၂၀၂၅ ခုနှစ် GPU GPU Technology Conference မှာ Blackwell Ultra B300၊ Vera Rubin နဲ့ Rubin Ultra တို့ အပါအဝင် AI လုပ်ဆောင်ချက်တွေကို အရှိန်မြှင့်တင်ပေးနိုင်တဲ့ အစွမ်းထက် GPU မျိုးဆက်သစ်တွေကို မိတ်ဆက်ခဲ့ပါတယ်။ အဆိုပါ GPU တွေဟာ အထူးသဖြင့် inference နဲ့ training လုပ်ငန်းတွေမှာ AI စွမ်းဆောင်ရည်ကို မြှင့်တင်ပေးဖို့ ဒီဇိုင်းထုတ်ထားတာဖြစ်ပါတယ်။

၂၀၂၅ ခုနှစ် ဒုတိယနှစ်ဝက်မှာ ထွက်ရှိဖို့ စီစဉ်ထားတဲ့ Blackwell Ultra B300 မှာ HBM3e memory ပမာဏကို 192GB ကနေ 288GB အထိ တိုးမြှင့်ပေးထားပြီး Blackwell GB200 နဲ့ နှိုင်းယှဉ်ရင်  dense FP4 tensor compute ဟာလည်း 50% ပိုမိုတိုးတက်လာပါတယ်။

ဒီတိုးတက်လာမှုတွေကြောင့် ပိုကြီးတဲ့ AI မော်ဒယ်တွေကို အထောက်အပံ့ပေးလာနိုင်ပြီး DeepSeek R1 တို့လို frameworkတွေမှာ inference စွမ်းဆောင်ရည်ကို တိုးတက်လာစေပါတယ်။ NVL72 rack တစ်ခုလုံးကို အသုံးပြုမယ်ဆိုရင် Blackwell Ultra ဟာ dense FP4 inference compute 1.1 exaflops ရရှိနိုင်မှာမို့ လက်ရှိ Blackwell B200 နဲ့ဆင်ထားတဲ့ setup ထက် သိသိသာသာ တိုးတက်လာပါတယ်။

Blackwell Ultra B300 ဟာ GPU သီးသန့်တစ်ခုတည်း မဟုတ်ပါဘူး။ အဓိက B300 ယူနစ်နဲ့အတူ Nvidia က B300 NVL16 server rack solutions၊ GB300 DGX Station နဲ့ GB300 NV72L rack စနစ်ကို မိတ်ဆက်သွားပါတယ်။

Image via TechSpot

NV72L racks ရှစ်ခုကို ပေါင်းစပ်ခြင်းက Blackwell Ultra DGX SuperPOD(အပေါ်ပုံမှာ ပြထားပါတယ်) တစ်ခုဖြစ်လာစေမှာဖြစ်ပြီး Grace CPUs 288 ခု၊ Blackwell Ultra GPUs 576 ခု၊ HBM3e memory 300TB နဲ့ အထင်ကြီးလောက်စရာ FP4 compute power 11.5 ExaFLOPS ကို ပေးစွမ်းမှာဖြစ်ပါတယ်။ ဒီစနစ်တွေကို ချိတ်ဆက်ပြီး ကြီးမားတဲ့ စူပါကွန်ပျူတာတွေကို ဖန်တီးနိုင်ပြီး Nvidia ကတော့ "AI စက်ရုံတွေ" လို့ အမည်ပေးလိုက်ပါတယ်။

Computex 2024 မှာ ပထမဆုံး ပြသခဲ့တဲ့ နောက်မျိုးဆက် Vera Rubin GPUs တွေကို ၂၀၂၆ ခုနှစ် ဒုတိယနှစ်ဝက်မှာ စတင်ရောင်းချဖို့ မျှော်လင့်ထားပြီး အထူးသဖြင့် AI လေ့ကျင့်ရေးနဲ့ inference ပိုင်ူမှာ သိသာထင်ရှားတဲ့ စွမ်းဆောင်ရည် တိုးတက်မှုတွေကို ပေးစွမ်းမှာဖြစ်ပါတယ်။

Image via TechSpot

Vera Rubin မှာ memory terabytes ပေါင်းများစွာ ပါဝင်ပြီး Nvidia က ဒီဇိုင်းထုတ်ထားတဲ့ custom Arm cores 88 ခု၊ 176 threads ပါဝင်တဲ့ Vera CPU နဲ့ တွဲဖက်ပေးထားပါတယ်။

GPU က တစ်ခုတည်းသော die မှာ ချစ်ပ်နှစ်ခုကို ပေါင်းစပ်ထားပြီး ချစ်ပ်တစ်ခုလျှင် FP4 inference စွမ်းဆောင်ရည် 50 petaflops ကို ရရှိပါတယ်။ NVL144 rack setup ဆိုရင်တော့ Vera Rubin ဟာ 3.6 exaflops ရှိတဲ့ FP4 inference compute ကို ပေးစွမ်းနိုင်ပါတယ်။

Image via TechSpot

Vera Rubin architecture ကို အခြေခံပြီး Rubin Ultra ကို ၂၀၂၇ ခုနှစ် ဒုတိယနှစ်ဝက်မှာ ထွက်ရှိဖို့ စီစဉ်ထားပါတယ်။ GPU တစ်ခုစီမှာ reticle-sized dies လေးခုပါဝင်တဲ့ NVL576 rack ဖွဲ့စည်းပုံကို အသုံးပြုပြီး ချစ်ပ်တစ်ခုကို FP4 precision စွမ်းဆောင်ရည် 100 petaflops ကို ပေးစွမ်းမှာဖြစ်ပါတယ်။

Rubin Ultra က FP4 inference compute စွမ်းဆောင်ရည် 15 exaflops နဲ့ FP8 training performance 5 exaflops ရှိမယ်လို့ဆိုထားပြီး Vera Rubin ထက် သိသိသာသာကောင်းမွန်တဲ့ စွမ်းဆောင်ရည်တွေရှိပါတယ်။ Rubin Ultra GPU တစ်ခုစီမှာ 1TB ရှိတဲ့ HBM4e memory ပါဝင်မှာဖြစ်ပြီး rack တစ်ခုလုံးမှာ မြန်ဆန်တဲ့ memory 365TB ကို အထောက်အပံ့ပေးမှာပါ။

Image via TechSpot

Nvidia က "Feynman" လို့ခေါ်တဲ့ မျိုးဆက်သစ် GPU architecture ကိုလည်း မိတ်ဆက်ခဲ့ပြီး Vera CPU နဲ့အတူ ၂၀၂၈ ခုနှစ်မှာ ဖြန့်ချီဖို့ မျှော်လင့်ထားတယ်လို့ဆိုပါတယ်။ အသေးစိတ်အချက်အလက်တွေက ရှားပါးနေသေးပေမယ့် Feynman ဟာ Nvidia ရဲ့ AI computing စွမ်းရည်တွေကို ပိုမိုတိုးတက်စေမယ်လို့ မျှော်လင့်ရပါတယ်။

Jensen Huang ရဲ့ keynote မှာ AI အတွက် Nvidia ရဲ့ ရည်မှန်းချက်ကြီးမားတဲ့ အမြင်ကို ဖော်ပြပြီး ဒေတာစင်တာတွေကို AI မော်ဒယ်တွေအတွက် tokens တွေထုတ်လုပ်တဲ့ "AI စက်ရုံများ" အဖြစ် ဖော်ပြခဲ့ပါတယ်။ သူက လူသားဆန်တဲ့ စက်ရုပ်တွေကို အားဖြည့်ပေးဖို့ "physical AI" ရဲ့ လားအလာကိုလည်း မီးမောင်းထိုးပြခဲ့ပြီး Nvidia ရဲ့ ဆော့ဖ်ဝဲလ်ပလက်ဖောင်းတွေကို အသုံးပြုပြီး လက်တွေ့ကမ္ဘာသုံးလုပ်ငန်းတွေအတွက် အတုအယောင်ပတ်ဝန်းကျင်တွေမှာ AI မော်ဒယ်တွေကို လေ့ကျင့်ပေးနိုင်ကြောင်း ပြောကြားခဲ့ပါတယ်။ 

Nvidia ရဲ့ လမ်းပြမြေပုံအရ ဒီ GPU တွေဟာ အနာဂတ် ကွန်ပျူတာနည်းပညာအတွက် အရေးပါတဲ့ အစိတ်အပိုင်းတွေအဖြစ် ရပ်တည်ဖို့ ရည်ရွယ်ထားပြီး AI တိုးတက်မှုနဲ့အညီ လိုက်ပါနိုင်ဖို့အတွက် ကွန်ပျူတာတွက်ချက်မှု စွမ်းအားကို တိုးမြှင့်ဖို့ လိုအပ်ကြောင်း အလေးပေးပြောကြားထားပါတယ်။ ဒီနည်းဗျူဟာဟာ မကြာသေးခင်က ဈေးကွက်အတက်အကျတွေ ဖြစ်ပေါ်ခဲ့ပြီးနောက် ရင်းနှီးမြှုပ်နှံသူတွေကို စိတ်ချစေဖို့ Nvidia ရဲ့ ရည်ရွယ်ချက်ဖြစ်ပြီး Blackwell ချစ်ပ်တွေရဲ့ အောင်မြင်မှုကို အခြေခံထားပါတယ်။

Source: TechSpot