Ilustrasi - Chip AI
Chip AI Makin Ngeri: Broadcom Bidik 1 Juta Chip 3D-Stacked - Perang Efisiensi Lawan Nvidia Dimulai
Namun ada sisi lain: advanced packaging dan HBM itu mahal. Jadi walau efisiensi naik, harga chip dan biaya produksi bisa tetap tinggi—membuat penurunan biaya layanan AI tidak selalu instan.
Di sisi supply chain, stacking yang makin kompleks juga menambah titik risiko: ketergantungan pada foundry, OSAT/packaging, dan pasokan HBM. Kalau salah satu macet, seluruh produksi bisa tersendat.
Lalu dampaknya ke harga layanan AI? Secara teori, bila performa-per-watt membaik, biaya inferensi per permintaan bisa turun karena listrik dan pendinginan adalah komponen besar di data center. Tapi di praktik, penurunan itu bisa “tertahan” oleh harga chip, kapasitas packaging, dan CAPEX ekspansi.
Bagi pelanggan bisnis, efek paling cepat kemungkinan berupa ketersediaan kapasitas yang lebih stabil (lebih banyak opsi silicon selain GPU dominan), dan potensi pilihan layanan AI yang lebih variatif: ada yang super kencang, ada yang super hemat biaya untuk inferensi massal.
Kata Aktualizer
- Belum ada komentar.