Satu triliun parameter, lisensi MIT, dan skor tertinggi di jalur bobot terbuka
Xiaomi merilis MiMo-V2.6-Pro dan MiMo-V2.6-Flash pekan ini, dua model sparse mixture-of-experts dengan bobot yang bisa diunduh di bawah lisensi MIT. Pro membawa 1,02 triliun parameter total dengan sekitar 42 miliar parameter aktif per token; Flash adalah versi lebih kecil dengan 310 miliar parameter total dan sekitar 15 miliar aktif. Keduanya mendukung jendela konteks 1 juta token dan menerima input teks, gambar, video, serta audio secara native, dengan output hingga 128.000 token.
Angka yang membuat ini menjadi cerita #6 di Hacker News dengan 784 poin dan 355 komentar adalah hasil benchmark-nya. MiMo-V2.6-Pro meraih skor 46 pada Intelligence Index milik Artificial Analysis, menyamai Grok 4.7 milik xAI yang bersifat proprietary dan mengungguli Gemini 3.8 Flash milik Google (41) serta V4.1 Pro (36) dan V4.1 Flash (39) milik DeepSeek. Itu menjadikan MiMo-V2.6-Pro model bobot terbuka berperingkat tertinggi pada indeks independen, bukan klaim sepihak dari vendor. Perlu tetap presisi soal apa artinya ini: Claude Opus 5 dari Anthropic masih mengungguli MiMo di beberapa benchmark pengodean yang dilaporkan vendor, termasuk DeepSWE v1.1, ProgramBench, dan Terminal Bench 4.0. Xiaomi tidak mengklaim superioritas frontier. Yang diklaim adalah kepemimpinan di jalur bobot terbuka, dan sejauh ini angka-angkanya mendukung klaim tersebut.
Kenapa peringkat di jalur bobot terbuka ini lebih penting dibanding satu lagi peluncuran model tertutup di minggu yang sama? Karena pertanyaan yang sebenarnya diajukan sebagian besar tim engineering bukan "model mana yang skornya tertinggi" — melainkan "apa yang bisa saya jalankan sendiri, saya periksa, dan saya modifikasi." MiMo-V2.6 adalah rilis pertama pada skala ini yang memberi jawaban nyata untuk itu.
Arti "terbuka" di sini, lebih dari sekadar bobot model
Lisensi MIT memang jadi sorotan utama, tapi bagian yang lebih signifikan dari rilis ini adalah apa yang ikut dikirim bersama bobot model: laporan teknis lengkap dalam bentuk PDF, model distilasi 9B (MiMo-V2.6-Distill-Qwen-9B) bagi tim yang tak sanggup menjalankan model penuh, varian Pro "UltraSpeed" yang diklaim hingga 20 kali lebih cepat dalam menghasilkan output, dan — bagian yang paling penting untuk reproduktifitas — lebih dari 7.000 lingkungan tugas reinforcement learning plus framework pelatihan RL end-to-end.
Bagian terakhir itu tidak lazim. Kebanyakan rilis model "terbuka" hanya memberi checkpoint dan model card. Xiaomi memberi cukup banyak untuk benar-benar menelusuri ulang bagaimana model ini dilatih: Pro melewati 30 langkah RL besar pada sekitar 750.000 trajektori dalam waktu kurang dari enam hari, menggunakan Group Relative Policy Optimization (GRPO) yang sepenuhnya asinkron, dengan biaya pelatihan yang dilaporkan sekitar 2,62 juta dolar AS (Flash: sekitar 850.000 dolar AS). Dengan lingkungan dan framework yang dipublikasikan, tim dengan daya komputasi yang cukup dapat menjalankan ulang proses RL tersebut, mengganti fungsi reward mereka sendiri, atau melakukan fine-tuning pada lingkungan yang dirilis alih-alih memulai dari nol.
Yang tetap tertutup adalah semua yang berada di hulu proses itu: data pretraining, komposisi data yang persis, dan tooling internal apa pun yang dipakai Xiaomi untuk mengurasi 750.000 trajektori tersebut sejak awal. Lingkungan RL memberi tahu bagaimana model ini dipoles, bukan dari apa model ini dibangun. Batasan ini penting untuk diingat — "reproducible" di sini berarti fine-tuning dan RL yang bisa direproduksi, bukan pelatihan ulang dari awal.
Realitas kebutuhan hardware untuk menjalankan MoE 1 triliun parameter
Angka 42 miliar parameter aktif melakukan banyak pekerjaan pemasaran, dan ini layak dibedah. Jumlah parameter aktif menentukan biaya komputasi satu forward pass, yang memang mendekati model dense 42B dalam hal FLOP per token. Angka itu tidak menentukan kebutuhan memori. MoE sparse dengan total 1,02 triliun parameter tetap membutuhkan semua bobot itu tersedia di suatu tempat untuk merutekan token ke expert yang tepat, entah itu di memori GPU, RAM CPU, atau NVMe cepat dengan offloading agresif. Bahkan pada kuantisasi 8-bit, itu tetap lebih dari satu terabyte bobot, belum termasuk KV cache dari jendela konteks 1 juta token.
Ini bukan model yang bisa dijalankan pada satu GPU 80GB, atau bahkan satu node dengan 8 GPU, tanpa kuantisasi berat atau offloading expert. Panduan deployment dari Xiaomi mengarah ke SGLang dan vLLM dengan image Docker, keduanya mendukung tensor dan expert parallelism lintas cluster multi-node — jalur deployment yang realistis untuk Pro. Flash, dengan 310 miliar parameter total dan 15 miliar aktif, adalah opsi yang lebih terjangkau bagi tim tanpa cluster inference multi-node, dan harganya pun mencerminkan itu: 0,14 dolar AS per juta token input dan 0,28 dolar AS per juta token output lewat API hosted milik Xiaomi, dibanding 0,435 dolar AS input / 0,87 dolar AS output untuk Pro, dengan input yang di-cache seharga 0,0036 dolar AS per juta token.
Harga API hosted itu penting karena alasan lain: ini memberi tim cara mengevaluasi perilaku model yang sesungguhnya sebelum berkomitmen pada biaya infrastruktur untuk self-hosting Pro. Jika Flash berjalan cukup baik pada beban kerja Anda dengan harga itu, alasan untuk menambah kompleksitas hardware demi self-hosting Pro jadi jauh lebih tipis.
Apa yang sebenarnya berubah bagi tim yang memilih antara self-hosted dan API tertutup
Framing kompetitif dalam sebagian besar liputan minggu ini — MiMo lawan DeepSeek, MiMo menyamai Grok 4.7 — kurang berguna bagi praktisi dibanding fakta bahwa kini ada baseline bobot terbuka kelas atas yang benar-benar bisa diperiksa untuk dijadikan pembanding. Sebelum rilis ini, tim yang mengevaluasi bobot terbuka self-hosted dibanding API tertutup frontier sebagian besar mengandalkan model-model DeepSeek sebagai referensi terbuka terkuat, menurut benchmark VentureBeat yang sama. MiMo-V2.6-Pro yang melampaui lini V4.1 DeepSeek pada indeks independen, sambil mempublikasikan stack RL-nya, membuat perbandingan itu lebih bermakna: kini Anda bisa membandingkan API tertutup bukan hanya dengan angka pemasaran perusahaan lain, tapi dengan model yang proses pelatihannya bisa sebagian Anda audit dan jalankan ulang.
Ini tidak lantas menyederhanakan keputusan build-vs-buy jadi jawaban tunggal. Menjalankan Pro pada skala produksi tetap berarti infrastruktur inference multi-node yang tidak dimiliki, dan sebaiknya tidak dibangun, sebagian besar tim hanya untuk satu model. Yang berubah adalah baseline-nya: opsi terbuka bukan lagi "lebih buruk tapi gratis," melainkan "kompetitif pada benchmark independen dan layak dibandingkan biayanya secara serius dengan tagihan API tertutup Anda." Grok 4.7 milik xAI, yang dirilis pada minggu yang sama dengan 2,1 triliun parameter, adalah penyeimbang di sisi tertutup — tanpa bobot yang bisa diperiksa, tanpa stack pelatihan, dievaluasi murni lewat harga API dan benchmark vendor.
Yang sebaiknya dilakukan dengan informasi ini
Jika Anda sedang mengevaluasi LLM self-hosted kuartal ini, perlakukan MiMo-V2.6 sebagai latihan dua langkah, bukan satu keputusan tunggal. Pertama, jalankan Flash — lewat API Xiaomi atau deployment lokal yang dikuantisasi — pada beban kerja Anda yang sebenarnya, lalu bandingkan biaya dan kualitasnya langsung dengan API tertutup yang saat ini Anda bayar. Harganya cukup murah untuk diuji tanpa komitmen hardware. Kedua, jika Flash lolos standar Anda dan Anda serius mempertimbangkan self-hosting pada skala besar, ambil lingkungan RL dan framework yang dirilis, lalu periksa apakah keduanya mencakup jenis tugas yang Anda pedulikan (kode, penggunaan tool agentic, retrieval konteks panjang) sebelum mengasumsikan Anda bisa fine-tuning hingga menyamai angka benchmark Pro. Lingkungan-lingkungan itu adalah aset nyata, tapi sifatnya general-purpose yang dibangun Xiaomi untuk target evaluasinya sendiri, bukan jaminan bahwa itu cocok dengan kasus penggunaan spesifik Anda.
Bagaimanapun, laporan teknis dan model card di Hugging Face layak dibaca tuntas sebelum perencanaan infrastruktur dimulai — panduan deployment untuk SGLang dan vLLM akan memberi tahu Anda lebih cepat dibanding tabel benchmark mana pun, apakah cluster yang Anda miliki sekarang benar-benar sanggup menyajikan model ini.
Komentar (0)
Belum ada komentar. Mulai percakapannya.