Selamat Datang Kembali Intel Xeon 6900P Menegaskan Kembali Kepemimpinan Intel di Server

Selamat datang kembali Intel! Intel Xeon telah membuntuti AMD EPYC dalam jumlah inti P selama sekitar tujuh tahun. Lima tahun lalu, AMD melaju jauh di depan dengan Seri AMD EPYC 7002 “Roma” dan tidak pernah melihat ke belakang dalam hal komputasi mentah. Hari ini menandai pertama kalinya dalam sekitar 86 bulan Intel kembali memimpin CPU server x86. Seri Intel Xeon 6 dengan inti-P, yang lebih tepat disebut seri Intel Xeon 6900P, menghadirkan 128 inti, 12 saluran memori, akselerator, teknologi proses baru, dan banyak lagi ke Intel Xeon.

Tentu saja, ada banyak hal yang terjadi di sini, jadi mari kita bahas.

Versi Video – Segera Hadir

Kami hanya punya sedikit waktu untuk mengerjakannya. Minggu lalu, kami berada di Intel di Oregon untuk mempelajari chip baru, tetapi kemudian kami pergi untuk merekam video terbesar kami tahun ini tepat setelahnya. Sistem praproduksi “Granite Rapids-AP” kami tiba, dan kami punya waktu akhir pekan untuk mengerjakannya, yang merupakan tantangan ketika beberapa tolok ukur membutuhkan waktu lebih dari sehari untuk menjalankan skrip pengujian pada sistem 512-thread.

Namun, Intel memberi kami sistem pengembangan praproduksi untuk digunakan dengan chip-chip unggulannya. Kami perlu mengatakan bahwa ini disponsori oleh Intel. Untuk beberapa angka daya yang biasanya ingin kami publikasikan pada bagian hari peluncuran seperti ini, kami akan menunggu sistem OEM dengan kurva kipas yang lebih realistis. Platform Intel masih belum sempurna. Artinya, kami akan membahas lebih lanjut tentang cerita ini. Kami juga akan membuat video, tetapi akan ditayangkan hari ini. Saat ditayangkan, kami akan menyematkan video tersebut.

Mari kita mulai.

Ketika Xeon Bukan Hanya Xeon, tapi XEON

Dimulai dari sini, penting untuk dipahami bahwa Xeon 6 seperti peluncuran yang sangat lambat. Saat ini, kita memiliki seri Intel Xeon 6900P, bagian teratas dengan 128 inti P. Beberapa bulan yang lalu, kami meninjau Seri Intel Xeon 6700E “Sierra Forest,” yang memiliki 144 E-core dan menggunakan soket berbeda dan memiliki setengah TDP. Keduanya adalah Intel Xeon 6, tetapi keduanya sangat berbeda. Hal ini menyebabkan keluarga Xeon 6 mencakup banyak hal, tetapi tidak harus semuanya dalam produk yang sama.

Selama bertahun-tahun, ketika kita membahas generasi CPU Intel Xeon, itu adalah soket yang sama dan arsitektur inti yang sama, selama kita mengabaikan pengurangan seperti LGA1356 Sandy Bridge-EN dan Ivy Bridge-EN. Saat ini, kami memiliki matriks 2×2 inti-E dan inti-P. Peluncuran hari ini merupakan peluncuran platform inti-P 12 saluran.

Yang penting untuk dicatat adalah bahwa ini bukanlah peluncuran inti 288 “Sierra Forest-AP” dengan jumlah inti tinggi untuk beban kerja cloud-native yang dapat ditingkatkan skalanya. Intel Xeon 6900P “Granite Rapids-AP” adalah soket ganda Xeon Intel untuk komputasi berperforma tinggi. Kami mendapatkan 12 saluran memori DDR5-6400 atau 8800MT/s MRDIMM/MCR DIMM (lebih lanjut tentang ini sebentar lagi) sehingga Intel sekarang dapat menyamai saluran memori AMD, dan melampaui lebar pita memori AMD. 128 inti P penuh lebih banyak dari yang ditawarkan AMD saat ini (96 dengan Genoa karena Bergamo adalah inti cache yang lebih rendah.) Ada 96 jalur PCIe Gen5 per CPU untuk total 192 jalur, dan ada dukungan CXL 2.0, semuanya sambil mengaktifkan 6 jalur UPI penuh untuk lebar pita soket-ke-soket. Cache L3 tidak lagi menjadi “AMD memiliki lebih banyak” pada bagian utamanya (non Genoa X) sekarang Intel Xeon 6980P memiliki cache L3 sebesar 504MB.

Sementara kami banyak berfokus pada SKU kelas atas, banyak organisasi membeli komponen kelas menengah. Itulah yang akan diluncurkan Intel di masa mendatang dalam desain soket yang lebih kecil. Ini penting karena Intel akan memiliki komponen modern bagi mereka yang menginginkan 32 inti per soket, tetapi tidak akan mengisi 12 saluran memori dan menghabiskan banyak uang untuk motherboard mahal yang dapat menangani soket yang lebih besar.

Mengingat fakta bahwa Intel memiliki soket lain, dan keluarga CPU lainnya, seri Xeon 6900P hanya terdiri dari lima SKU publik yang berkisar dari 72 hingga 128 inti. Hanya bagian 128 inti yang bukan merupakan jumlah total inti yang dapat dibagi 3, jadi kami berharap hyper-scaler dan yang lainnya memiliki SKU khusus berdasarkan bagian 120 inti (Intel Xeon 6979P), tetapi Intel memiliki SKU 128 inti. Perlu dicatat juga, empat dari lima memiliki TDP 500W yang sangat tinggi yang merupakan hal baru untuk CPU.

Bagian menarik lainnya adalah Intel Xeon 6960P dengan 72 inti, sama seperti bagian CPU dari CPU NVIDIA Grace Hopper. Intel menggunakan SMT, jadi secara teknis merupakan bagian dengan 72 inti/144 utas, tetapi juga memberi Intel sekitar 6MB cache L3 per inti dan kecepatan clock yang lebih tinggi. Untuk server AI, Intel telah memenangkan soket bahkan tanpa CPU monster baru ini, dan kami akan membahas alasannya nanti di bagian ini.

Untuk chip, berikut adalah output lscpu dari Intel Xeon 6980P, bagian top-bin 128 core/256 thread dalam konfigurasi soket ganda. Seperti yang Anda lihat, kami memiliki lebih dari 1GB cache L3 dalam sistem dan banyak core.

Pada saat yang sama, kami memperkirakan banyak dari sistem ini dijalankan sebagai tiga node NUMA karena cara silikon dibangun.

Intel menyimpan pengontrol memorinya pada chip fisik atau petak komputasi yang sama dengan intinya. Hasilnya, menjaga akses memori tetap terlokalisasi pada petak tersebut dapat menghasilkan kinerja yang lebih baik.

Ini juga menghasilkan topologi yang agak aneh karena dua dari node SNC3 NUMA memiliki 43 inti, dan satu memiliki 42 inti. Intel memiliki SKU 120 inti yang mungkin lebih populer untuk tujuan hasil dan keseimbangan. Namun, akan lebih keren jika Intel menggunakan desain ubin 3x 43 untuk membuat CPU 129 inti hanya sebagai SKU pemasaran untuk mengatakan bahwa ia memiliki 129 inti, atau satu lebih banyak dari AMD.

Infrastruktur yang diubin ini dapat Anda lihat dengan mudah saat melihat bagan latensi inti ke inti. Meskipun mungkin tampak tidak terbaca setelah dikompresi untuk web, ketahuilah bahwa ini adalah versi hyper-threading 128 inti. Versi soket ganda 512 thead membutuhkan waktu lama untuk dijalankan tetapi bagan tersebut bahkan lebih seperti bagan mata.

Perilaku di atas dapat dijelaskan oleh desain Intel yang menempatkan tiga petak komputasi besar pada sebuah chip bersama dengan dua chip I/O.

Salah satu hal yang memungkinkan Intel untuk kembali ke orbit komponen papan atas AMD, dan menjadi kompetitif dengan Turin generasi berikutnya dari AMD adalah karena ia menggunakan teknologi proses baru. Intel 3 digunakan untuk die komputasi yang juga memiliki pengontrol memori dan Intel 7 untuk die I/O dengan chip UPI, PCIe, dan akselerator.

AMD unggul pada tahun 2019 dengan Roma sebagian karena beralih ke desain chiplet, dan sebagian lagi karena Intel 10nm sangat terlambat. Sekarang karena teknologi proses Intel meningkat pesat, kita akan melihat lebih banyak chipnya. Intel kini menjembatani tutup dengan pengemasan EMIB yang lebih canggih, itulah sebabnya ubinnya terlihat lebih rapat sementara ubin komputasi AMD terlihat seperti pulau-pulau tersendiri dibandingkan dengan chip I/O AMD.

Namun, pergeseran Intel sangat menonjol pada generasi ini. Alih-alih hanya berfokus pada beban kerja yang dipercepat oleh akselerator internal perusahaan, Intel kini memiliki chip monster yang dapat bersaing langsung dengan AMD dalam hal kinerja CPU mentah, tetapi juga memiliki akselerator internal.

Namun, salah satu fitur terbesar Intel adalah mengintegrasikan pengontrol memori tersebut ke dalam petak komputasi, lalu menawarkan opsi memori yang sangat cepat, jadi mari kita bahas itu selanjutnya.