Sandisk dan SK hynix resmi merilis standar High Bandwidth Flash (HBF), teknologi memori baru yang dirancang untuk mengatasi bottleneck AI inference.

Kecerdasan buatan semakin pintar, tetapi ada satu masalah yang sering luput dari perhatian: AI tidak hanya membutuhkan chip komputasi yang cepat, tetapi juga memori yang mampu memasok data dalam jumlah sangat besar.

Di sinilah Sandisk dan SK hynix Resmi Rilis HBF, Memori Baru untuk Era AI menjadi kabar yang menarik.

Pada awal Agustus 2026, SK hynix dan Sandisk memperkenalkan spesifikasi standar pertama High Bandwidth Flash (HBF) melalui Open Compute Project (OCP).

Teknologi ini dirancang sebagai lapisan memori baru di antara High Bandwidth Memory (HBM) dan SSD. Kapasitasnya dapat mencapai 512GB per paket, sedangkan bandwidth dalam spesifikasi awal dibagi menjadi tiga kelas hingga sekitar 3 TB/s.

Angka 3 TB/s terdengar seperti angka yang sengaja dibuat untuk membuat para penggemar hardware melongo. Namun, konteksnya jauh lebih penting daripada sekadar angka.

HBF bukan dibuat untuk menggantikan HBM. Bukan pula SSD yang tiba-tiba diberi steroid.

Tujuan utamanya adalah menciptakan tingkatan memori baru yang dapat menampung data AI dalam kapasitas jauh lebih besar, tetapi tetap memiliki bandwidth yang cukup tinggi untuk ditempatkan dekat dengan prosesor.

Mengapa ini penting? Karena ketika model AI semakin besar, masalahnya bukan lagi sekadar “GPU-nya kurang cepat”.

Data yang harus dipindahkan ke dan dari memori juga semakin besar. Jika prosesor menunggu data, GPU supermahal pun bisa seperti mobil sport yang terjebak macet.

Dan itulah masalah yang ingin disentuh HBF. Nah, artikel kali ini akan membahas “Sandisk dan SK hynix Resmi Rilis HBF, Memori Baru untuk Era AI”

Sandisk dan SK hynix Resmi Rilis HBF, Memori Baru untuk Era AI yang Berada di Antara HBM dan SSD

Untuk memahami mengapa HBF menarik, kita perlu melihat posisi teknologi ini dalam arsitektur memori modern.

Secara sederhana, sistem komputasi memiliki beberapa lapisan penyimpanan dan memori.

Masing-masing mempunyai karakteristik berbeda. Ada yang sangat cepat tetapi mahal dan kapasitasnya terbatas. Ada yang sangat besar dan relatif ekonomis, tetapi jauh lebih lambat.

HBM berada di sisi yang sangat cepat.

SSD berada di sisi kapasitas.

HBF mencoba mengisi ruang kosong di antara keduanya.

SK hynix menjelaskan bahwa HBF dirancang sebagai memory tier baru di antara HBM dan SSD, terutama untuk kebutuhan AI inference.

Ketika industri AI bergerak dari fase training menuju inference dalam skala besar, kebutuhan terhadap memori berkapasitas tinggi dan efisien semakin penting.

Bayangkan sebuah restoran. GPU adalah koki. HBM adalah meja kerja tepat di sebelah koki. Semua bahan yang sedang digunakan berada di sana sehingga aksesnya sangat cepat.

SSD adalah gudang besar di belakang restoran. Kapasitasnya luar biasa, tetapi koki tidak mungkin berlari ke gudang setiap kali membutuhkan satu bahan.

Lalu HBF datang sebagai dapur penyimpanan tambahan.

Ia tidak secepat meja kerja utama, tetapi kapasitasnya jauh lebih besar daripada meja tersebut. Dan yang penting, lokasinya dirancang agar jauh lebih dekat serta lebih cepat diakses daripada gudang.

Analogi ini memang sederhana. Namun, konsep dasarnya cukup tepat.

AI inference membutuhkan akses terhadap data dalam skala besar. Model bahasa, parameter, cache, embedding, dan berbagai data pendukung dapat menjadi sangat besar. Karena itu, sistem AI membutuhkan lebih dari sekadar HBM berkapasitas tinggi.

Masalahnya, meningkatkan kapasitas HBM bukan pekerjaan sederhana.

HBM menggunakan DRAM dan dirancang untuk bandwidth sangat tinggi. Teknologinya juga membutuhkan packaging canggih, interposer, TSV, dan integrasi yang ketat dengan accelerator.

Semakin banyak HBM ditambahkan, biaya dan kompleksitas sistem ikut meningkat.

HBF menawarkan pendekatan berbeda dengan memanfaatkan NAND flash yang secara alami memiliki densitas penyimpanan lebih tinggi.

Jadi, daripada memaksa HBM melakukan semuanya, sistem dapat menggunakan pendekatan tiered memory.

Data yang paling membutuhkan kecepatan tetap berada di HBM.

Data yang sangat besar tetapi tidak selalu membutuhkan latency HBM dapat ditempatkan di HBF.

Data yang lebih jarang digunakan dapat tetap berada di SSD.

Hasil akhirnya adalah hierarki memori yang lebih fleksibel.

Dan ini merupakan inti dari mengapa Sandisk dan SK hynix Resmi Rilis HBF, Memori Baru untuk Era AI menjadi berita penting bagi industri semikonduktor.

Mengapa AI Membutuhkan Memori Sebesar Itu?

Pertanyaan berikutnya cukup sederhana: kenapa tiba-tiba semua orang berbicara tentang kapasitas memori?

Jawabannya adalah karena ukuran workload AI terus berkembang.

Model AI generatif modern tidak hanya memiliki parameter dalam jumlah besar. Sistem inference juga harus menangani context window, KV cache, batch pengguna, retrieval data, routing pada model mixture-of-experts, dan berbagai proses lain.

Semakin banyak pengguna memakai satu layanan AI secara bersamaan, semakin besar pula tekanan terhadap sistem memory.

Bayangkan satu model digunakan oleh ribuan atau bahkan jutaan permintaan.

Setiap permintaan membutuhkan data.

Data tersebut harus tersedia pada waktu yang tepat.

Kalau tidak, accelerator yang seharusnya sibuk menghitung malah menunggu.

Inilah yang sering disebut sebagai memory wall.

CPU dan GPU telah berkembang sangat cepat selama beberapa dekade. Tetapi kemampuan komputasi yang semakin besar justru membuat kebutuhan terhadap bandwidth memori semakin ekstrem.

Sebuah accelerator yang dapat melakukan triliunan operasi per detik tidak akan memberikan performa maksimal jika data yang dibutuhkan tidak bisa dikirim kepadanya cukup cepat.

Di sinilah konsep HBF menjadi masuk akal.

Sandisk dan SK hynix tidak mencoba mengatakan bahwa NAND dapat menggantikan DRAM dalam semua hal. Mereka justru memanfaatkan karakteristik NAND yang berbeda.

NAND menawarkan kapasitas tinggi. HBM menawarkan bandwidth dan latency sangat baik. HBF mencoba menggabungkan sebagian keunggulan keduanya dalam posisi yang berbeda.

Ini bukan kompetisi “HBF versus HBM”. Lebih tepat jika kita melihatnya sebagai HBM + HBF + SSD. Ketiga lapisan tersebut dapat memiliki pekerjaan masing-masing.

Baca Juga: Fantech WGP13S: Review Gamepad Wireless untuk PC

Sandisk dan SK hynix Resmi Rilis HBF dengan Kapasitas Hingga 512GB

Salah satu angka yang paling menarik dari spesifikasi awal HBF adalah kapasitas.

Spesifikasi HBF pertama mendukung kapasitas hingga 512GB per paket, menggunakan konfigurasi NAND 8-high atau 16-high. Sekilas, 512GB mungkin terdengar seperti kapasitas SSD laptop.

Namun, jangan salah memahami konteksnya. Ini bukan SSD 512GB yang dipasang menggunakan konektor NVMe lalu diberi label baru.

HBF dirancang sebagai komponen memory tier yang lebih dekat dengan compute.

Perbedaan tersebut sangat penting.

SSD memang dapat memiliki kapasitas terabyte. Bahkan SSD enterprise modern tersedia dalam kapasitas beberapa terabyte. Namun SSD tidak dirancang untuk memberikan karakteristik akses yang sama seperti memori yang ditempatkan dekat accelerator.

HBF mencoba membawa sebagian kapasitas NAND ke wilayah yang lebih dekat dengan prosesor.

Dengan kapasitas hingga 512GB per paket, beberapa paket HBF secara teoritis dapat membentuk memory pool yang sangat besar.

Bayangkan sebuah sistem AI yang memiliki HBM untuk data paling aktif, kemudian HBF untuk data model yang ukurannya jauh lebih besar. Sistem tidak harus memasukkan seluruh dataset ke dalam HBM.

Ini penting secara ekonomi. Karena pada skala data center, efisiensi biaya bukan hanya soal harga satu komponen.

Yang dihitung adalah total cost of ownership (TCO).

• Berapa banyak accelerator yang diperlukan?
• Berapa besar konsumsi listrik?
• Berapa banyak memory yang harus dipasang?
• Berapa besar pendinginan yang diperlukan?
• Berapa banyak rack yang dibutuhkan?
• Berapa banyak data yang harus dipindahkan?

Jika HBF dapat membantu sistem mengurangi tekanan pada HBM dan accelerator, dampaknya bisa jauh lebih besar daripada sekadar harga chip.

SK hynix dan Sandisk sejak awal memosisikan HBF sebagai solusi untuk meningkatkan skalabilitas sekaligus efisiensi daya dalam AI inference.

HBF Menggunakan NAND, Bukan DRAM

Salah satu perbedaan fundamental HBF dengan HBM adalah teknologi memory yang digunakan.

HBM menggunakan DRAM.

HBF memanfaatkan NAND flash. Mengapa NAND? Karena NAND mempunyai densitas penyimpanan yang jauh lebih tinggi.

Produsen NAND selama bertahun-tahun telah mengembangkan teknologi 3D NAND dengan menumpuk banyak layer secara vertikal.

Hasilnya adalah kapasitas besar dalam footprint yang relatif kecil.

SK hynix bahkan memperkenalkan V10 375-layer 4D NAND pada FMS 2026 bersamaan dengan pengumuman HBF. Perusahaan menyatakan teknologi tersebut menawarkan peningkatan efisiensi daya hingga 2,5 kali dibanding generasi sebelumnya dalam konteks yang mereka presentasikan.

Ini menunjukkan bahwa HBF tidak berdiri sendirian. Perkembangan NAND menjadi salah satu fondasi penting.

Semakin tinggi densitas NAND, semakin besar pula kapasitas yang dapat dibangun dalam memory package.

Namun, NAND memiliki karakteristik yang berbeda dari DRAM. NAND lebih lambat. NAND juga memiliki keterbatasan endurance.

Karena itu, HBF membutuhkan arsitektur, controller, packaging, dan software yang dirancang khusus.

Tidak cukup hanya mengambil NAND SSD lalu memasangnya dekat GPU. Kalau sesederhana itu, mungkin para engineer sudah melakukannya sejak lama.

Sandisk dan SK hynix Menggunakan UCIe untuk HBF

Bagian menarik lainnya adalah interkoneksi.

HBF mendukung UCIe atau Universal Chiplet Interconnect Express. Teknologi ini dirancang untuk membantu chiplet dan berbagai komponen dalam sistem berkomunikasi melalui interkoneksi berkecepatan tinggi.

Mengapa UCIe penting? Karena masa depan processor tidak hanya berisi satu chip monolitik.

Arsitektur chiplet semakin populer.

CPU, accelerator, I/O die, cache, memory interface, dan komponen lainnya dapat dibuat sebagai chiplet yang kemudian digabungkan menjadi satu sistem.

Dengan menggunakan standar interconnect seperti UCIe, HBF memiliki peluang untuk terintegrasi dengan berbagai jenis platform.

Secara teoritis, hal ini membuat HBF lebih fleksibel daripada solusi proprietary yang hanya bekerja pada satu accelerator.

Namun, standar interconnect hanyalah salah satu bagian dari puzzle.

Agar HBF benar-benar sukses, dibutuhkan dukungan hardware dan software.

Accelerator harus dapat mengenali memory tier tersebut.

Memory controller harus mendukungnya.

Operating system dan runtime perlu mengetahui bagaimana data dipindahkan.

Framework AI mungkin perlu melakukan memory placement secara cerdas.

Compiler juga bisa memainkan peran.

Jadi, ketika kita membaca “HBF menggunakan UCIe”, jangan membayangkan bahwa semua GPU otomatis bisa memasang HBF begitu saja.

Masih ada ekosistem panjang yang harus dibangun.

Sandisk dan SK hynix Resmi Rilis HBF untuk AI Inference, Bukan Sekadar AI Training

Ada perubahan besar dalam karakteristik workload AI.

Pada fase awal ledakan AI generatif, perhatian besar tertuju pada training.

Training membutuhkan bandwidth luar biasa besar untuk memproses dataset dan memperbarui parameter model.

Tetapi setelah model selesai dilatih, pekerjaan belum selesai.

Model tersebut harus digunakan. Itulah inference. Ketika ChatGPT, chatbot enterprise, mesin pencari AI, AI coding assistant, sistem rekomendasi, dan agent AI digunakan jutaan orang, inference menjadi aktivitas yang sangat besar.

Dan inference mempunyai karakteristik berbeda. Model harus tersedia terus-menerus. Permintaan pengguna datang secara dinamis.

Latency menjadi penting. Batching harus diatur. KV cache dapat tumbuh. Context window semakin panjang. Model juga semakin besar. Karena itu, memory hierarchy menjadi sangat penting.

HBF dirancang terutama untuk kondisi seperti ini.

SK hynix dan Sandisk secara konsisten menempatkan HBF sebagai teknologi untuk AI inference infrastructure.

Ini bukan berarti HBF sama sekali tidak berguna untuk training.

Namun, target utama yang paling jelas adalah inference.

Contoh Sederhana: Bagaimana HBF Bisa Dipakai untuk Model AI Besar?

Mari gunakan contoh hipotetis.

Misalnya sebuah model AI memiliki kebutuhan data sekitar 400GB untuk bagian tertentu dari workload.

Memasukkan seluruh data tersebut ke HBM mungkin tidak ekonomis atau bahkan tidak praktis.

Sistem dapat menggunakan pendekatan seperti ini:

• HBM: data yang sedang aktif dan sangat sensitif terhadap latency.
• HBF: data model yang besar dan perlu diakses dengan bandwidth tinggi.
• SSD: dataset, checkpoint, arsip, dan data yang tidak membutuhkan akses sesering itu.

Dengan pola seperti ini, sistem tidak harus memperlakukan semua data sama. Ini sangat penting.

Tidak semua byte memiliki nilai yang sama. Ada data yang harus tersedia dalam hitungan nanodetik atau sangat cepat.

Ada data yang boleh sedikit lebih lambat selama throughput keseluruhannya tinggi. Ada data yang tidak masalah jika membutuhkan waktu lebih lama.

Hierarki memory memungkinkan sistem memanfaatkan perbedaan tersebut. Konsepnya mirip cache pada komputer, tetapi skalanya jauh lebih kompleks.

Dan semakin besar AI, semakin penting pula strategi penempatan data.

HBF Tidak Otomatis Membuat AI Lebih Cepat

Ini adalah bagian yang perlu digarisbawahi. HBF bukan tombol turbo untuk semua workload AI.

Efeknya sangat tergantung pada pola akses.

Penelitian yang dipublikasikan pada Agustus 2026 mengenai karakterisasi HBF untuk serving LLM bahkan menunjukkan hasil yang cukup menarik: mengganti tier penyimpanan dengan HBF tidak otomatis meningkatkan performa serving. Dalam beberapa konfigurasi yang diuji, sistem justru dapat mengalami peningkatan latency karena karakteristik workload, write traffic, thermal limitation, dan trade-off kapasitas near-tier.

Temuan tersebut penting karena membantu kita melihat HBF secara lebih realistis. Teknologi memory selalu memiliki trade-off.

Jika HBF digunakan untuk workload yang tepat, manfaatnya bisa besar. Jika dipakai sebagai “SSD yang lebih cepat” tanpa mempertimbangkan pola akses, hasilnya belum tentu bagus.

Jadi, masa depan HBF bukan hanya soal siapa yang memiliki bandwidth terbesar.

Software dan architecture awareness akan menjadi sama pentingnya.

Sistem harus tahu:

• Data mana yang perlu berada di HBM?
• Data mana yang cocok di HBF?
• Kapan data harus dipindahkan?
• Berapa banyak write yang terjadi?
• Bagaimana thermal budget dijaga?
• Bagaimana endurance NAND dikelola?

Pertanyaan-pertanyaan tersebut akan menentukan keberhasilan HBF di dunia nyata.

Bagaimana HBF Berbeda dari SSD Enterprise?

Pertanyaan ini sering muncul.

“Kalau HBF menggunakan NAND, bukankah pada dasarnya itu SSD?” Jawabannya: bukan.

Memang keduanya menggunakan NAND sebagai media penyimpanan, tetapi arsitektur dan tujuan penggunaannya berbeda.

SSD dirancang sebagai storage device. SSD memiliki controller, firmware, interface storage seperti NVMe, dan mekanisme manajemen flash.

HBF dirancang sebagai memory tier yang berada jauh lebih dekat dengan compute.

Perbedaan tersebut berdampak pada interface, packaging, bandwidth, latency, dan cara software memanfaatkannya.

SSD tetap sangat penting. Bahkan enterprise SSD terus berkembang untuk AI.

SanDisk sendiri memiliki SSD enterprise seperti DC SN861 yang menggunakan PCIe Gen5 dan ditujukan untuk workload compute-intensive termasuk AI dan machine learning.

Namun HBF mencoba mengisi level yang berbeda. Jika SSD adalah gudang, HBF adalah ruang penyimpanan yang jauh lebih dekat ke dapur. Sementara HBM tetap berada di atas meja koki. Semuanya punya fungsi.

HBF Bisa Mengubah Cara Server AI Dibangun

Jika HBF berhasil diadopsi secara luas, dampaknya mungkin tidak berhenti pada memory module.

Arsitektur server dapat ikut berubah. Saat ini, banyak sistem AI dibangun dengan fokus pada accelerator dan HBM.

Ke depan, desain server dapat lebih serius mempertimbangkan memory hierarchy sebagai satu kesatuan. Accelerator mungkin tidak lagi dilihat hanya berdasarkan jumlah compute core.

Kapasitas HBM menjadi penting. Bandwidth HBM penting. Bandwidth HBF juga penting. Jumlah HBF package menjadi penting. Interconnect menjadi penting. Software memory management menjadi penting.

Dengan kata lain, performa AI akan semakin ditentukan oleh arsitektur sistem, bukan satu komponen.

Ini merupakan tren yang sudah terlihat. AI accelerator, CPU, networking, memory, storage, cooling, dan software semakin sulit dipisahkan.

Ketika satu bagian menjadi bottleneck, seluruh sistem ikut terkena dampaknya.

Sandisk dan SK hynix Resmi Rilis HBF, Tetapi Komersialisasi Masih Membutuhkan Waktu

Pengumuman spesifikasi tidak berarti konsumen bisa membeli HBF besok pagi.

Pada 2025, Sandisk menyebut target pengiriman sample HBF pertama pada paruh kedua 2026 dan menargetkan perangkat AI inference pertama dengan HBF tersedia untuk sampling pada awal 2027.

Sekarang, pada Agustus 2026, spesifikasi standarnya telah diperkenalkan.

Itu merupakan milestone penting. Tetapi perjalanan menuju produksi massal masih panjang.

Ada beberapa tahapan yang perlu terjadi:

1. Vendor memory harus memproduksi silicon dan package sesuai spesifikasi.
2. Vendor accelerator harus menyediakan dukungan interface.
3. Server OEM harus mengembangkan platform.
4. Cloud provider perlu melakukan validasi workload.
5. Software stack harus mendukung memory tier.
6. Sistem harus diuji untuk thermal dan reliability.
7. Harga harus cukup menarik untuk deployment skala besar.

Dan yang paling penting: workload nyata harus membuktikan manfaatnya.

Data center tidak membeli teknologi hanya karena spesifikasinya terlihat keren.

Mereka membeli teknologi jika teknologi tersebut membuat layanan lebih murah, lebih cepat, lebih hemat energi, atau lebih mudah diskalakan.

Idealnya, tentu semuanya.

Apa yang Harus Terjadi Agar HBF Benar-Benar Sukses?

Ada beberapa indikator yang layak diperhatikan dalam beberapa tahun ke depan.

• Pertama adalah dukungan accelerator. Jika vendor GPU dan AI accelerator besar mengintegrasikan HBF secara native, peluang adopsinya akan meningkat.
• Kedua adalah software support. HBF akan sulit sukses jika developer harus mengatur memory placement secara manual.
• Ketiga adalah cost per GB dan cost per bandwidth. Keunggulan utama NAND adalah densitas dan potensi ekonomi. Jika packaging HBF terlalu mahal, sebagian keunggulannya bisa hilang.
• Keempat adalah power efficiency. AI data center semakin sensitif terhadap listrik. Bandwidth tinggi dengan konsumsi daya rendah akan menjadi kombinasi yang sangat berharga.
• Kelima adalah reliability dan endurance. NAND memiliki karakteristik wear yang berbeda dari DRAM. Sistem harus memastikan HBF dapat bertahan dalam workload enterprise.
• Keenam adalah availability. Tidak ada gunanya memiliki teknologi hebat jika supply-nya terlalu terbatas.

HBF dan Masa Depan AI Data Center

Bayangkan data center AI pada akhir dekade ini. Server tidak lagi hanya memiliki CPU, GPU, HBM, dan SSD.

Bisa jadi terdapat beberapa memory tier: register → cache → HBM → HBF → SSD → cold storage.

Setiap tier memiliki fungsi. Data yang paling panas ditempatkan di level paling cepat. Data yang besar tetapi masih sering digunakan berada di HBF. Data yang lebih dingin masuk ke SSD. Data arsip pergi ke storage yang lebih murah.

AI software kemudian menentukan data mana yang harus berada di mana. Jika sistem dapat melakukan ini dengan baik, kapasitas memory efektif dapat meningkat tanpa harus menjadikan seluruh sistem bergantung pada memory tercepat dan termahal.

Ini merupakan konsep yang sangat penting. Karena di dunia AI, tidak semua data membutuhkan Ferrari. Sebagian cukup menggunakan mobil yang jauh lebih efisien. Yang penting, mobil tersebut tersedia ketika dibutuhkan.

Sandisk dan SK hynix Resmi Rilis HBF: Apakah Ini Akan Mengubah Persaingan Memory?

Sangat mungkin. Selama beberapa tahun terakhir, HBM menjadi salah satu medan persaingan paling penting dalam industri memory.

SK hynix telah menjadi pemain utama dalam HBM. Sementara itu, perusahaan lain juga mengejar perkembangan memory untuk AI.

HBF membuka kategori baru. Jika HBF menjadi standar populer, kompetisi tidak lagi hanya terjadi pada HBM.

Produsen harus memikirkan:

• HBM.
• HBF.
• Enterprise SSD.
• Controller.
• NAND density.
• Packaging.
• Interconnect.
• Software optimization.

Dengan begitu, perusahaan memory yang memiliki portofolio lengkap dapat memiliki keuntungan. SK hynix sudah memiliki DRAM, HBM, dan NAND.

Sandisk memiliki kekuatan besar di NAND dan storage. Kolaborasi ini memberi keduanya posisi strategis untuk membentuk kategori baru.

Tetapi pasar tetap terbuka. Samsung, Micron, Kioxia, Western Digital, dan pemain lain dapat mengembangkan pendekatan mereka sendiri.

Standar terbuka bahkan bisa membuat kompetisi menjadi lebih menarik.

Apakah HBF Layak Disebut Memori Masa Depan?

Untuk AI infrastructure, jawab annya: punya potensi besar, tetapi masih harus dibuktikan.

Spesifikasi awalnya menarik.

Aspek	Potensi HBF	Tantangan / Catatan
Kapasitas	Hingga 512 GB per package, jauh lebih besar dibanding kapasitas HBM per stack yang umum saat ini. Ini membuat HBF menarik untuk AI model berukuran sangat besar.	Kapasitas besar tidak otomatis berarti performa tinggi. Arsitektur software dan accelerator harus mampu memanfaatkan kapasitas tersebut secara efisien.
Bandwidth	Hingga 3,0 TB/s, membuat HBF jauh lebih cepat daripada storage NAND konvensional dan cukup agresif untuk workload AI.	Bandwidth tinggi bukan berarti latency setara HBM. Untuk akses data yang sangat sensitif terhadap latency, HBM tetap lebih unggul.
Latency	Lebih dekat ke accelerator dibanding SSD karena HBF dirancang sebagai memory tier dalam package.	Masih kalah dari HBM dalam latency. Jadi HBF lebih cocok sebagai memory tier berkapasitas besar daripada pengganti langsung HBM.
Posisi dalam memory hierarchy	Dapat mengisi celah antara HBM dan SSD: kapasitas lebih besar daripada HBM, tetapi performanya jauh lebih tinggi daripada SSD.	Sistem harus pintar menentukan data mana yang ditempatkan di HBM dan mana yang dipindahkan ke HBF.
AI inference	Ini salah satu use case paling menjanjikan. Model AI yang terlalu besar untuk HBM dapat menyimpan lebih banyak model weights atau data di dekat accelerator.	Tidak semua workload cocok. Riset terbaru menunjukkan penggunaan HBF secara sembarangan untuk transient KV cache justru dapat meningkatkan latency dan membebani thermal.
UCIe	Penggunaan UCIe membuka peluang integrasi HBF dengan berbagai jenis processor/accelerator dalam ekosistem chiplet.	Implementasi nyata tetap membutuhkan dukungan hardware, packaging, controller, dan software.
Standardisasi	Sandisk dan SK hynix membawa HBF ke Open Compute Project (OCP). OCP telah merilis technical specification pertama pada Agustus 2026.	Ekosistem masih sangat muda. Standardisasi awal belum berarti adopsi massal sudah terjamin.
Efisiensi biaya	NAND menawarkan kapasitas yang lebih tinggi dibanding DRAM/HBM sehingga secara konsep HBF dapat menjadi cara lebih ekonomis untuk menambah memory capacity AI.	Biaya total sistem tidak hanya ditentukan oleh harga NAND. Packaging, controller, thermal management, dan accelerator support juga ikut menentukan.
Thermal	Integrasi langsung ke package accelerator dapat mengurangi perpindahan data ke storage eksternal.	Kepadatan NAND dan bandwidth tinggi menghasilkan tantangan thermal. Studi terbaru bahkan menunjukkan workload tertentu dapat mencapai batas thermal sebelum HBF mencapai bandwidth maksimumnya.
Endurance	Cocok untuk data yang relatif read-heavy, seperti model weights yang sering dibaca tetapi jarang ditulis ulang.	NAND memiliki keterbatasan write endurance. Workload yang banyak melakukan penulisan dapat mempercepat keausan flash.
Software	HBF dapat menjadi bagian dari memory hierarchy baru yang dikelola secara sadar oleh software.	Software perlu memahami perbedaan karakteristik HBM, HBF, DRAM, dan SSD. Tanpa memory management yang tepat, bandwidth HBF bisa tidak termanfaatkan.
Dukungan accelerator	Google dan Tenstorrent telah menunjukkan ketertarikan terhadap ekosistem HBF.	Adopsi industri masih terbatas. Dukungan dari lebih banyak pembuat accelerator akan sangat menentukan masa depan HBF.
Status teknologi	Sudah bergerak dari konsep menuju spesifikasi terbuka dan standardisasi industri.	Belum bisa dianggap sebagai teknologi matang yang siap menggantikan HBM di semua workload.
Masa depan	Berpotensi menjadi memory tier baru untuk AI, khususnya inference dengan model berukuran sangat besar.	Keberhasilannya bergantung pada kombinasi hardware, software, workload, thermal, endurance, dan economics.

Sandisk dan SK hynix Resmi Rilis HBF, Memori Baru untuk Era AI: Apa Artinya bagi Masa Depan?

Pada akhirnya, berita tentang HBF bukan hanya tentang satu jenis memory baru.

Ini tentang perubahan cara kita membangun komputer.

Selama beberapa dekade, performa komputer sering dibicarakan melalui pertanyaan seperti:

“Seberapa cepat CPU-nya?”, “Berapa banyak core GPU-nya?”, “Berapa besar RAM-nya?”.

Di era AI, pertanyaannya menjadi jauh lebih kompleks.

• Seberapa cepat data bergerak?
• Berapa besar memory pool yang tersedia?
• Berapa latency antar-tier?
• Berapa bandwidth yang bisa dipertahankan?
• Berapa watt yang dibutuhkan?
• Bagaimana software mengatur data?

Dan berapa biaya untuk menjalankan sistem tersebut selama bertahun-tahun?

HBF hadir karena jawaban terhadap pertanyaan-pertanyaan tersebut semakin penting.

Sandisk dan SK hynix tampaknya memahami bahwa masa depan AI tidak hanya membutuhkan compute yang lebih kuat. AI juga membutuhkan memory architecture yang lebih cerdas.

Itulah nilai terbesar HBF. Bukan semata-mata bandwidth 3 TB/s. Bukan hanya kapasitas 512GB.

Tetapi gagasan bahwa komputer masa depan dapat menggunakan banyak lapisan memory secara bersamaan untuk memberikan kombinasi terbaik antara kecepatan, kapasitas, konsumsi daya, dan biaya.

Dan di sinilah ceritanya menjadi menarik.

Jika HBF berhasil, kita mungkin akan melihat era ketika memory tidak lagi dipandang sekadar sebagai komponen pendamping processor.

Memory akan menjadi bagian utama dari desain sistem AI.

Dengan kata lain, perlombaan AI berikutnya mungkin bukan hanya tentang siapa yang mempunyai chip paling cepat.

Bisa jadi, pemenangnya adalah siapa yang paling pintar memberi makan chip tersebut dengan data.

Nah, intinya “Sandisk dan SK hynix Resmi Rilis HBF, Memori Baru untuk Era AI” ini merupakan salah satu perkembangan penting dalam evolusi arsitektur memory AI pada 2026.

HBF dirancang sebagai memory tier di antara HBM dan SSD, menggunakan NAND flash untuk mendapatkan kapasitas lebih besar sekaligus menawarkan bandwidth yang jauh lebih tinggi dibanding storage tradisional. Spesifikasi awal mendukung hingga 512GB per package dan bandwidth sampai sekitar 3 TB/s, dengan UCIe sebagai bagian dari pendekatan interkoneksinya.

Namun, HBF sebaiknya tidak dilihat sebagai pengganti HBM.

Nilainya justru terletak pada kemampuannya melengkapi HBM.

AI semakin membutuhkan memory berkapasitas besar karena model, context, cache, dan workload inference terus berkembang. HBF menawarkan kemungkinan untuk menempatkan sebagian data tersebut lebih dekat dengan compute tanpa harus mengandalkan HBM untuk seluruh kebutuhan.

Tetapi perjalanan menuju adopsi massal masih panjang.

Keberhasilan HBF akan ditentukan oleh dukungan accelerator, software, efisiensi daya, reliability, biaya, dan kemampuan industri membangun ekosistem yang kompatibel.

Bahkan penelitian terbaru menunjukkan bahwa HBF tidak otomatis mempercepat semua workload AI. Penggunaannya harus disesuaikan dengan pola akses dan karakteristik workload.

Jadi, untuk sekarang, HBF paling tepat dilihat sebagai calon fondasi baru untuk tiered memory AI, bukan pengganti instan HBM atau SSD.

Yang jelas, satu hal sudah berubah.

Perlombaan AI kini semakin jelas bukan hanya tentang compute.

Memory adalah medan perang berikutnya.

FAQ

1. Apa itu HBF dari Sandisk dan SK hynix?

HBF adalah singkatan dari High Bandwidth Flash, sebuah teknologi memory baru yang menggunakan NAND flash dan dirancang untuk menjadi lapisan memori di antara HBM dan SSD.

Tujuan utamanya adalah memberikan kapasitas jauh lebih besar daripada HBM dengan bandwidth yang tetap tinggi. HBF ditujukan terutama untuk AI inference dan workload yang membutuhkan akses terhadap data dalam jumlah besar.

Pada spesifikasi awal yang diumumkan pada Agustus 2026, HBF mendukung kapasitas hingga 512GB per package dan memiliki tiga kelas bandwidth yang mencapai sekitar 3 TB/s.

2. Apakah HBF akan menggantikan HBM?

Tidak.

HBF lebih tepat diposisikan sebagai pelengkap HBM, bukan pengganti langsung.

HBM menggunakan DRAM dan memiliki keunggulan dalam latency serta bandwidth untuk data yang sangat aktif. HBF menggunakan NAND sehingga dapat menawarkan kapasitas lebih besar.

Dalam sistem AI masa depan, keduanya dapat digunakan bersama.

HBM menangani data yang membutuhkan akses sangat cepat, HBF menampung data dalam kapasitas besar yang masih membutuhkan bandwidth tinggi, sedangkan SSD digunakan untuk data yang lebih jauh dari compute.

Konsep tersebut disebut tiered memory.

3. Berapa kapasitas maksimum HBF yang diumumkan Sandisk dan SK hynix?

Spesifikasi pertama HBF mendukung kapasitas hingga 512GB per package menggunakan konfigurasi NAND 8-high atau 16-high.

Namun, 512GB merupakan kapasitas maksimum dalam spesifikasi awal. Produk komersial yang nantinya tersedia belum tentu semuanya menggunakan kapasitas tersebut.

Kapasitas aktual akan bergantung pada desain produk, kebutuhan workload, biaya, packaging, thermal, dan faktor produksi lainnya.

4. Seberapa cepat HBF dibandingkan SSD?

HBF dirancang untuk memberikan bandwidth yang jauh lebih tinggi daripada SSD tradisional.

Spesifikasi awal menetapkan tiga kelas bandwidth sekitar 0,4 TB/s hingga 3,0 TB/s.

Namun, membandingkan HBF dan SSD hanya berdasarkan bandwidth kurang tepat.

HBF dirancang sebagai memory tier yang lebih dekat dengan processor, sedangkan SSD merupakan storage device.

Karena itu, perbedaan bukan sekadar “HBF lebih cepat”. Arsitektur dan tujuan penggunaannya memang berbeda.

5. Apakah HBF cocok untuk gaming PC atau laptop?

Untuk saat ini, HBF terutama ditujukan untuk AI infrastructure dan data center, bukan PC gaming konsumen.

Teknologi ini membutuhkan dukungan hardware, packaging, interconnect, memory controller, dan software yang sesuai.

Jadi, gamer tidak perlu menunggu HBF sebelum membeli PC baru.

Untuk gaming saat ini, kapasitas dan kecepatan RAM, VRAM, SSD, CPU, dan GPU tetap jauh lebih relevan.

Jika HBF berhasil berkembang di data center, barulah ada kemungkinan konsep memory tier seperti ini pada akhirnya merambah workstation atau perangkat lain.

6. Mengapa Sandisk dan SK hynix memilih NAND untuk HBF?

NAND memiliki keunggulan utama berupa densitas penyimpanan tinggi.

DRAM seperti yang digunakan pada HBM sangat cepat, tetapi kapasitasnya lebih mahal dan lebih terbatas. NAND dapat menyimpan lebih banyak data dalam footprint yang relatif kecil.

Karena HBF ditujukan untuk menyediakan memory tier berkapasitas besar, NAND menjadi pilihan yang logis.

Sandisk dan SK hynix kemudian mengembangkan pendekatan khusus agar NAND tersebut dapat bekerja dengan bandwidth yang jauh lebih tinggi daripada storage NAND tradisional.

7. Apa fungsi UCIe pada HBF?

UCIe atau Universal Chiplet Interconnect Express merupakan standar interkoneksi yang memungkinkan komponen chiplet berkomunikasi melalui koneksi berkecepatan tinggi.

Pada HBF, dukungan UCIe membantu membuka kemungkinan integrasi dengan berbagai platform compute.

Hal ini penting karena AI accelerator di masa depan semakin banyak menggunakan pendekatan chiplet.

Namun, dukungan UCIe saja tidak berarti HBF otomatis kompatibel dengan semua CPU dan GPU. Hardware, firmware, controller, packaging, serta software tetap harus mendukung teknologi tersebut.

8. Kapan HBF mulai digunakan secara komersial?

Sandisk sebelumnya menargetkan sample HBF pada paruh kedua 2026 dan sample perangkat AI inference dengan HBF pada awal 2027.

Pada Agustus 2026, milestone penting berupa spesifikasi standar pertama telah tercapai melalui OCP.

Namun, antara sample dan produksi massal masih terdapat banyak tahapan.

Vendor perlu melakukan validasi, integrasi, pengujian thermal, reliability testing, optimasi software, dan deployment pada workload nyata.

Karena itu, adopsi luas kemungkinan membutuhkan waktu lebih lama daripada sekadar peluncuran spesifikasi.

9. Apa tantangan terbesar HBF?

Tantangan terbesar bukan hanya membuat NAND menjadi cepat.

HBF harus membuktikan bahwa teknologi tersebut benar-benar memberikan keuntungan pada sistem secara keseluruhan.

Beberapa tantangan utamanya meliputi:

• Latency yang tetap lebih tinggi daripada HBM.
• Konsumsi daya dan thermal.
• Endurance NAND.
• Dukungan accelerator.
• Memory controller.
• Software dan runtime.
• Biaya packaging.
• Ekosistem vendor.
• Compatibility.
• Workload yang sesuai.

Penelitian terbaru bahkan menunjukkan bahwa HBF tidak otomatis memperbaiki performa semua workload LLM. Pemanfaatannya perlu memperhatikan pola read/write, reuse data, thermal behavior, dan memory hierarchy.

10. Apakah HBF akan menjadi standar memory AI masa depan?

HBF memiliki peluang untuk menjadi salah satu standar penting, tetapi masih terlalu dini untuk menyebutnya sebagai pemenang.

Kelebihannya cukup jelas: kapasitas besar, bandwidth tinggi, dukungan UCIe, dan pendekatan open standard melalui OCP.

Namun, keberhasilan akhirnya akan ditentukan oleh adopsi industri.

Jika lebih banyak vendor accelerator, cloud provider, server manufacturer, dan software ecosystem mendukung HBF, peluangnya akan meningkat secara signifikan.

Untuk sekarang, HBF paling menarik bukan karena menggantikan teknologi yang sudah ada, melainkan karena menawarkan lapisan baru di antara memory dan storage.

Dan jika AI terus tumbuh dengan kecepatan seperti sekarang, lapisan baru tersebut bisa menjadi semakin penting.