ประสิทธิภาพ AI ขั้นสุดยอด
ขับเคลื่อนโดย NVIDIA Blackwell B300 GPU เซิร์ฟเวอร์นี้มอบปริมาณงานที่สูงขึ้นอย่างมากสำหรับทั้งการฝึกอบรมและการอนุมานเมื่อเทียบกับรุ่นก่อนหน้า รองรับความแม่นยำของ FP8 และ FP4 ซึ่งเร่งรอบการฝึกฝนโมเดลขนาดใหญ่ได้สูงสุดถึง 3 เท่า
ปรับให้เหมาะสมสำหรับโมเดลภาษาขนาดใหญ่ (LLM)
สถาปัตยกรรมนี้ได้รับการปรับแต่งสำหรับโมเดลที่คล้ายกับ GPT, การเรียนรู้เชิงลึก และปริมาณงาน AI เชิงสร้างสรรค์ รวมถึงการจัดการหน้าต่างบริบทที่ยาวอย่างมีประสิทธิภาพ นอกจากนี้ยังรวมเอาโมเดลและไปป์ไลน์ความขนานเข้าด้วยกันเพื่อปรับปรุงการฝึกอบรมแบบกระจายของโมเดลล้านล้านพารามิเตอร์
หน่วยความจำแบนด์วิธสูงเป็นพิเศษ
เมื่อติดตั้งหน่วยความจำ HBM3e รุ่นถัดไป GPU แต่ละตัวมีความจุสูงสุด 288GB และแบนด์วิธมากกว่า 10 TB/s ซึ่งช่วยขจัดปัญหาคอขวดของหน่วยความจำ ทำให้มีขนาดชุดงานที่ใหญ่ขึ้นและความยาวลำดับที่ยาวขึ้นสำหรับงาน AI ที่มีความต้องการสูง
สถาปัตยกรรม Multi-GPU ที่ปรับขนาดได้
ด้วย NVLink และ NVSwitch รุ่นที่สี่ เซิร์ฟเวอร์ NVIDIA B300 Blackwell AI รองรับโทโพโลยี multi-GPU ที่เชื่อมต่อถึงกันอย่างสมบูรณ์ (8, 16 หรือมากกว่า) ที่แบนด์วิธแบบสองทิศทางสูงสุด 900 GB/s สิ่งนี้ทำให้มั่นใจได้ถึงความสามารถในการขยายแบบเกือบเชิงเส้นสำหรับการฝึกอบรมแบบกระจายทั้งโหนดเดียวและคลัสเตอร์
การออกแบบประหยัดพลังงาน
ประสิทธิภาพต่อวัตต์ที่ได้รับการปรับปรุง – สูงถึง 2.5 เท่าจากรุ่นก่อนหน้า – ลดต้นทุนการดำเนินงานของศูนย์ข้อมูล ตัวเลือกการระบายความร้อนแบบไฮบริด (อากาศและของเหลว) ช่วยให้มีความหนาแน่นในการประมวลผลสูงขึ้นภายในงบประมาณด้านพลังงานที่มีอยู่
ศูนย์ข้อมูลพร้อมแล้ว
สร้างตามมาตรฐาน OCP พร้อมกำลังไฟ 48V และรองรับ Redfish API เพื่อการผสานรวมเข้ากับระบบการจัดการที่มีอยู่ได้อย่างราบรื่น พลังงานสำรองและพัดลม รวมถึง MTBF มากกว่า 100,000 ชั่วโมง รับประกันความน่าเชื่อถือระดับองค์กรตลอด 24 ชั่วโมงทุกวัน
การฝึกอบรมและการปรับแต่งโมเดลภาษาขนาดใหญ่:ตั้งแต่การฝึกแบบจำลองพารามิเตอร์ล้านล้านล่วงหน้าไปจนถึงการปรับคำสั่งและ RLHF
การอนุมาน AI เจนเนอเรชั่นหลายรูปแบบ: การให้บริการปริมาณงานสูงสำหรับการแปลงข้อความเป็นรูปภาพ การสร้างวิดีโอ และการสร้างเนื้อหา 3 มิติ
คอมพิวเตอร์เชิงวิทยาศาสตร์และแฝดดิจิทัล: เร่งการจำลองสภาพอากาศ การค้นพบยา และแฝดดิจิทัลทางอุตสาหกรรมแบบเรียลไทม์
ระบบการแนะนำเฉพาะบุคคล:จัดเก็บตารางฝังขนาดใหญ่ใน HBM เพื่อการอนุมานออนไลน์ที่มีเวลาแฝงต่ำและมีปริมาณงานสูง
การขับขี่อัตโนมัติและหุ่นยนต์: ฝึกโมเดลการรับรู้และการวางแผนเกี่ยวกับชั่วโมงการขับขี่จำลองหลายล้านชั่วโมง และสนับสนุนการเรียนรู้จากต้นทางถึงปลายทางสำหรับ AI ที่รวบรวมไว้
NVIDIA B300 Blackwell AI Server เป็นแพลตฟอร์มศูนย์ข้อมูลเจเนอเรชันถัดไปที่สร้างขึ้นบนสถาปัตยกรรม Blackwell GPU ซึ่งออกแบบมาเพื่อวัตถุประสงค์สำหรับ AI กำเนิดขนาดใหญ่ การฝึกอบรม LLM และการประมวลผลประสิทธิภาพสูง โดยผสมผสานแบนด์วิดธ์หน่วยความจำระดับสูง ความสามารถในการปรับขนาดได้หลาย GPU แบบใกล้เชิงเส้น และประสิทธิภาพการใช้พลังงานชั้นนำของอุตสาหกรรม เพื่อกำหนดโครงสร้างพื้นฐาน AI ใหม่ ไม่ว่าจะเป็นการฝึกอบรมโมเดลล้านล้านพารามิเตอร์หรือการให้บริการแอปพลิเคชันหลายรูปแบบแบบเรียลไทม์ เซิร์ฟเวอร์นี้มอบประสิทธิภาพที่ก้าวล้ำพร้อมทั้งลดต้นทุนการดำเนินงาน ทำให้เป็นรากฐานในอุดมคติสำหรับโรงงาน AI สมัยใหม่และศูนย์ข้อมูลบนคลาวด์
ที่อยู่
ถนนหว่านเซีย เขตหนานซาน เซินเจิ้น มณฑลกวางตุ้ง ประเทศจีน
โทร
อีเมล
