Berikutnya terdapat X-ring O100 yang berfungsi sebagai AI accelerator. Chip ini dibuat menggunakan proses 6 nanometer dan dilengkapi DRAM terintegrasi dengan bandwidth hingga 1,22 TB/s.
Chip ketiga adalah X-ring D100 yang berasal dari lini teknologi smart driving Xiaomi. Chip tersebut membawa 20 core CPU dan 16 core NPU.
Salah satu keunggulan X-ring D100 adalah dukungan memory pool hingga 160 GB. Namun, prototipe Xiaomi AI Cube yang diperlihatkan dalam pengumuman tersebut menggunakan Unified Memory sebesar 80 GB.
Kombinasi ketiga chipset tersebut dirancang untuk menangani pemrosesan AI lokal dengan beban kerja yang berbeda.
Bisa Jalankan Model AI hingga 120 Miliar Parameter
Xiaomi AI Cube dirancang untuk menjalankan model AI dalam dua skala. Pengguna dapat menggunakan model berukuran sekitar 3 miliar parameter hingga model besar dengan kapasitas mencapai 120 miliar parameter.
Model AI yang disiapkan untuk berjalan secara default adalah Xiaomi MiMo. Karena proses komputasi dilakukan secara lokal, data pengguna tidak harus dikirim ke layanan cloud untuk diproses.
Pendekatan tersebut berpotensi memberikan keuntungan dari sisi privasi, terutama untuk pengguna yang menangani dokumen atau data sensitif.
Dari sisi konsumsi energi, Xiaomi menyebut AI Cube memiliki konsumsi daya konstan sekitar 150 Watt.
Angka tersebut lebih rendah dibandingkan Nvidia DGX Spark yang memiliki konsumsi daya puncak sekitar 240 Watt. Namun, konsumsi AI Cube masih berada di atas AMD Ryzen AI Halo yang berada di kisaran 120 Watt.
Klaim Performa Xiaomi AI Cube Perlu Dicermati
Spesifikasi Xiaomi AI Cube memang terlihat mengesankan, tetapi sejumlah klaim performanya perlu dibaca secara hati-hati.
Salah satu angka yang paling banyak mendapat perhatian adalah bandwidth 1,22 TB/s. Angka tersebut merupakan kemampuan bandwidth pada X-ring O100, bukan bandwidth keseluruhan sistem ketika menjalankan model AI berukuran 120 miliar parameter.
Untuk model besar, beban pemrosesan akan melibatkan X-ring D100. Sementara itu, Xiaomi belum mengungkapkan secara lengkap bandwidth resmi yang dimiliki chip tersebut.
