NVIDIA, Intel, dan Mitra Meningkatkan Efisiensi Komputasi AI

NVIDIA, Intel, dan Mitra Meningkatkan Efisiensi Komputasi AI

AI adalah inti dari inovasi manusia yang paling transformatif — mulai dari mengembangkan vaksin COVID dengan kecepatan yang belum pernah terjadi sebelumnya dan mendiagnosis kanker hingga menggerakkan kendaraan otonom dan memahami perubahan iklim.

Hampir setiap industri akan mendapat manfaat dari adopsi AI, tetapi teknologinya menjadi lebih intensif sumber daya karena jaringan saraf semakin kompleks. Untuk menghindari permintaan yang tidak berkelanjutan pada pembangkit listrik untuk menjalankan infrastruktur komputasi ini, teknologi yang mendasarinya harus seefisien mungkin.

Komputasi yang dipercepat didukung oleh GPU NVIDIA dan platform NVIDIA AI menawarkan efisiensi yang memungkinkan pusat data untuk mendorong terobosan generasi berikutnya secara berkelanjutan.

Dan sekarang, bertepatan dengan peluncuran prosesor Intel Xeon Scalable Generasi ke-4, NVIDIA dan mitranya telah meluncurkan generasi baru sistem komputasi terakselerasi yang dibuat untuk AI hemat energi. Ketika dikombinasikan dengan GPU NVIDIA H100 Tensor Core, sistem ini dapat memberikan kinerja yang jauh lebih tinggi, skala yang lebih besar, dan efisiensi yang lebih tinggi daripada generasi sebelumnya, memberikan lebih banyak perhitungan dan pemecahan masalah per watt.

CPU Intel baru akan digunakan dalam sistem NVIDIA DGX H100, serta di lebih dari 60 server yang menampilkan GPU H100 dari mitra NVIDIA di seluruh dunia.

Kecepatan Supercharging, Efisiensi, dan Penghematan untuk AI Perusahaan

Sistem yang didukung NVIDIA dan Intel yang akan datang akan membantu perusahaan menjalankan beban kerja rata-rata 25x lebih efisien daripada server pusat data tradisional yang hanya menggunakan CPU. Performa per watt yang luar biasa ini berarti lebih sedikit daya yang diperlukan untuk menyelesaikan pekerjaan, yang membantu memastikan daya yang tersedia untuk pusat data digunakan seefisien mungkin untuk meningkatkan pekerjaan yang paling penting.

Dibandingkan dengan sistem terakselerasi generasi sebelumnya, pelatihan dan inferensi kecepatan server terakselerasi NVIDIA generasi baru ini meningkatkan efisiensi energi hingga 3,5x – yang berarti penghematan biaya nyata, dengan pusat data AI memberikan total biaya kepemilikan 3x lebih rendah.

CPU Intel Xeon Generasi ke-4 Baru Memindahkan Lebih Banyak Data untuk Mempercepat NVIDIA AI

Di antara fitur CPU Intel Xeon Generasi ke-4 yang baru adalah dukungan untuk PCIe Gen 5, yang dapat menggandakan kecepatan transfer data dari CPU ke GPU NVIDIA dan jaringan. Peningkatan jalur PCIe memungkinkan kerapatan GPU yang lebih besar dan jaringan berkecepatan tinggi dalam setiap server.

Bandwidth memori yang lebih cepat juga meningkatkan kinerja beban kerja intensif data seperti AI, sementara kecepatan jaringan — hingga 400 gigabit per detik (Gbps) per koneksi — mendukung transfer data yang lebih cepat antara server dan penyimpanan.

Sistem dan server NVIDIA DGX H100 dari mitra NVIDIA dengan GPU PCIe H100 hadir dengan lisensi untuk NVIDIA AI Enterprise, perangkat lunak pengembangan dan penyebaran AI end-to-end, aman, cloud-native, menyediakan platform lengkap untuk keunggulan dalam efisiensi AI perusahaan.

Sistem NVIDIA DGX H100 Meningkatkan Efisiensi untuk Supersize AI

Sebagai generasi keempat dari infrastruktur AI yang dibangun khusus di dunia, sistem NVIDIA DGX H100 menyediakan platform yang sepenuhnya dioptimalkan didukung oleh sistem operasi pusat data yang dipercepat, perangkat lunak NVIDIA Base Command.

Setiap sistem DGX H100 menampilkan delapan GPU NVIDIA H100, 10 adapter jaringan NVIDIA ConnectX-7 dan prosesor ganda Intel Xeon Scalable Generasi ke-4 untuk memberikan kinerja yang diperlukan untuk membangun model AI generatif besar, model bahasa besar, sistem rekomendasi, dan banyak lagi.

Dikombinasikan dengan jaringan NVIDIA, arsitektur ini meningkatkan komputasi yang efisien dalam skala besar dengan memberikan kinerja hingga 9x lebih tinggi daripada generasi sebelumnya dan kinerja 20x hingga 40x lebih tinggi daripada server dual-socket X86 yang tidak dipercepat untuk pelatihan AI dan beban kerja HPC. Jika model bahasa sebelumnya memerlukan 40 hari untuk berlatih di sekelompok server khusus X86, NVIDIA DGX H100 yang menggunakan CPU Intel Xeon dan jaringan bertenaga ConnectX-7 dapat menyelesaikan pekerjaan yang sama hanya dalam 1-2 hari.

Sistem NVIDIA DGX H100 adalah blok bangunan dari turnkey NVIDIA DGX SuperPOD yang siap pakai untuk perusahaan, yang memberikan kinerja AI hingga satu exaflop, memberikan lompatan efisiensi untuk penerapan AI perusahaan skala besar.

Mitra NVIDIA Tingkatkan Efisiensi Pusat Data

Untuk beban kerja pusat data AI, GPU NVIDIA H100 memungkinkan perusahaan membangun dan menerapkan aplikasi dengan lebih efisien.

Menghadirkan performa generasi baru dan efisiensi energi untuk perusahaan di seluruh dunia, portofolio sistem yang luas dengan GPU H100 dan CPU Intel Xeon yang Dapat Diskalakan Generasi ke-4 akan segera hadir dari mitra NVIDIA, termasuk ASUS, Atos, Cisco, Dell Technologies, Fujitsu, GIGABYTE, Hewlett Packard Enterprise, Lenovo, QCT dan Supermicro.

Sebagai pelopor peningkatan efisiensi yang akan datang, Lenovo ThinkSystem dari Flatiron Institute dengan GPU NVIDIA H100 berada di puncak daftar Green500 terbaru — dan teknologi NVIDIA mendukung 23 dari 30 sistem teratas dalam daftar. Sistem Flatiron menggunakan CPU Intel generasi sebelumnya, sehingga diharapkan lebih banyak efisiensi dari sistem yang sekarang hadir di pasar.

Selain itu, menghubungkan server dengan jaringan NVIDIA ConnectX-7 dan prosesor Intel 4th Gen Xeon Scalable akan meningkatkan efisiensi dan mengurangi infrastruktur serta konsumsi daya.

Adaptor NVIDIA ConnectX-7 mendukung PCIe Gen 5 dan 400 Gbps per koneksi menggunakan Ethernet atau InfiniBand, menggandakan throughput jaringan antara server dan ke penyimpanan. Adaptor mendukung pembongkaran jaringan, penyimpanan, dan keamanan tingkat lanjut. ConnectX-7 mengurangi jumlah kabel dan port sakelar yang diperlukan, menghemat 17% atau lebih pada listrik yang dibutuhkan untuk jaringan klaster HPC dan AI besar yang dipercepat GPU dan berkontribusi pada efisiensi energi yang lebih baik dari server baru ini.

NVIDIA AI Enterprise Software Menghadirkan Solusi Full-Stack AI

Sistem generasi berikutnya ini juga memberikan lompatan ke depan dalam efisiensi operasional karena dioptimalkan untuk rangkaian perangkat lunak NVIDIA AI Enterprise.

Berjalan di NVIDIA H100, NVIDIA AI Enterprise mempercepat jalur ilmu data dan merampingkan pengembangan dan penyebaran model AI prediktif untuk mengotomatiskan proses penting dan mendapatkan wawasan cepat dari data.

Dengan pustaka perangkat lunak full-stack yang luas, termasuk alur kerja AI untuk aplikasi referensi, kerangka kerja, model yang telah dilatih sebelumnya, dan pengoptimalan infrastruktur, perangkat lunak ini memberikan landasan yang ideal untuk meningkatkan kesuksesan AI perusahaan.

Untuk mencoba NVIDIA H100 yang menjalankan alur kerja AI dan kerangka kerja yang didukung di NVIDIA AI Enterprise, daftar ke NVIDIA LaunchPad gratis.

Saksikan pendiri dan CEO NVIDIA Jensen Huang berbicara di acara peluncuran prosesor Intel Xeon Scalable Generasi ke-4.

Namun para bettor tidak harus khawatir, tidak hingga 5 menit, tentu saja keluaran ini dapat ditampikan secara live dan mampu kalian simak pada web togel hkg. Bagi kalian yang membebaskan live draw ini, mampu memandang pada knowledge hk yang senantiasa di update sesudah ada data hongkong pools .