Gemini 3.8 Live: agen suara dengan tool call asinkron

Dua model suara stabil, satu kontrak yang berubah

Google menerbitkan tulisan "Introducing Gemini 3.8 Live and 3.8 Live Extended Thinking" pada 15 September 2026, ditulis oleh Tom Ouyang dan Malini Jaganathan. Framing mereka: Gemini 3.8 Live dan Gemini 3.8 Live Extended Thinking adalah model dialog langsung paling canggih yang pernah mereka buat. Changelog Gemini API di hari yang sama mencantumkan dua model audio-ke-audio baru: gemini-3.8-live untuk pengalaman agen suara berlatensi rendah, dan gemini-3.8-live-extended-thinking dengan penalaran di latar belakang selama interaksi audio berlangsung.

Fitur utamanya: varian Extended Thinking "bernalar dan berbicara secara bersamaan." Menurut tulisan itu, model ini mengeksekusi tool dan panggilan API di latar belakang sambil terus melanjutkan percakapan, sehingga ia bisa mengakui permintaan pengguna dan tetap mengobrol sementara tugasnya diselesaikan di belakang layar. Bagian yang penting bagi siapa pun yang pernah merilis agen suara justru terkubur di dokumentasi model: ini adalah model Live API pertama yang kontraknya mengasumsikan model sedang mengerjakan hal lain ketika berbicara, dan kode penanganan giliran Anda hampir pasti mengasumsikan sebaliknya.

Kedua model ditandai Stable, bukan preview, di halaman model 3.8 Live dan 3.8 Live Extended Thinking. Keduanya menerima input teks, gambar, audio dan video, menghasilkan teks dan audio, dengan batas input 131.072 token dan batas output 65.536 token. Function calling dan Search grounding didukung; code execution, structured output, caching, URL context dan Batch API tidak. Keduanya sudah bisa dipanggil lewat Gemini API dan Google AI Studio hari ini.

Dulu "turnComplete" berarti apa, dan sekarang berarti apa

Kalau Anda membangun di atas gemini-3.1-flash-live, loop Anda kemungkinan besar memperlakukan turnComplete: true sebagai "model sudah selesai, sekarang giliran saya, aman untuk menjalankan langkah berikutnya." Function call bersifat blocking: model meminta sebuah tool, lalu diam, Anda menjalankannya, mengirim hasilnya, dan model kembali berbicara. Dokumen capabilities mencatat bahwa gemini-3.1-flash-live sama sekali tidak mendukung function calling NON_BLOCKING.

Model Extended Thinking membuang semua itu. Menurut halaman modelnya, hanya eksekusi asinkron non-blocking (behavior: NON_BLOCKING) yang didukung; mode blocking sinkron tidak didukung. Dan inilah kalimat yang akan memicu bug paling banyak: turnComplete: true "no longer indicates that the model is idle", tidak lagi menandakan model sedang idle. Klien diharapkan memeriksa interaction_status dan membedakan IN_PROGRESS dari IDLE.

Berakhirnya sebuah giliran kini adalah pernyataan tentang aliran audio, bukan tentang keadaan model. Model bisa menyelesaikan satu kalimat, menyerahkan batas giliran kepada Anda, dan tetap sedang bernalar atau menunggu hasil tool yang sebentar lagi akan ia bicarakan. Kalau klien Anda membaca batas itu sebagai "idle" lalu menutup sesi, mengosongkan antrean, atau memutar nada tunggu, Anda akan memotong model yang sedang bersiap menjawab.

Di gemini-3.8-live biasa, perubahannya lebih lunak: NON_BLOCKING menjadi default, tetapi mode blocking masih berfungsi, dan thinking_level tidak didukung. Jadi migrasinya punya dua tingkat kesulitan yang sangat berbeda, tergantung model mana yang Anda pilih.

Loop yang harus Anda tulis ulang

Secara konkret, mengganti gemini-3.1-flash-live dengan gemini-3.8-live-extended-thinking berarti mengubah tiga hal di loop agen. Berikut sketsanya dalam pseudocode, karena pemanggilan SDK persisnya bergantung pada bahasa yang Anda pakai:

deklarasikan setiap tool dengan behavior: NON_BLOCKING

saat function_call datang dari model:
    jalankan tool di latar belakang            # jangan hentikan output audio
    terus alirkan audio model ke penelepon     # model akan terus bicara
    saat tool selesai, kirim hasilnya          # model melipatnya ke dalam ucapan

saat turnComplete:
    JANGAN asumsikan model sedang idle
    periksa interaction_status
    IN_PROGRESS -> jaga sesi tetap hidup, terus mendengarkan
    IDLE        -> sekarang benar-benar giliran Anda

Pertama, deklarasi tool. Setiap fungsi yang bisa dipanggil model Extended Thinking harus dideklarasikan non-blocking. Artinya tool runner Anda harus benar-benar asinkron: kalau sebuah pencarian ke backend memakan waktu empat detik, model terus berbicara selama empat detik itu, dan kode Anda harus menyerahkan hasilnya ke dalam percakapan yang sedang berjalan, bukan percakapan yang sedang dijeda.

Kedua, pemeriksaan status. Di mana pun Anda sebelumnya bergantung pada turnComplete, sekarang Anda bergantung pada interaction_status. Pola praktisnya: perlakukan batas giliran sebagai kesempatan bagi pengguna untuk menyela, bukan sebagai sinyal untuk mengubah keadaan sesi, dan gantungkan semua tindakan yang destruktif (mengakhiri panggilan, mengalihkan ke manusia, membuka topik baru) pada status IDLE.

Ketiga, anggaran penalaran. thinking_level pada model Extended Thinking menerima low, medium atau high, dan tidak ada opsi minimal; pengaturan terendah pun tetap "bernalar sedikit." Makin banyak penalaran, makin lama latensi sebelum model berkomitmen pada sebuah jawaban. Angka leaderboard di bawah dilaporkan untuk pengaturan High, jadi menyalin konfigurasi leaderboard berarti menyalin profil latensinya juga. Mulailah dari low untuk pengganti phone-tree atau IVR, dan naikkan hanya ketika transkrip menunjukkan model salah menjawab.

Lalu ada batas sesi yang tidak berubah. Menurut dokumen capabilities, sesi audio saja dibatasi 15 menit dan sesi audio-plus-video dibatasi 2 menit kecuali Anda memakai teknik manajemen sesi, dan model native audio mendapat konteks 128k token. Panggilan dukungan pelanggan yang berlangsung lama tetap membutuhkan logika resumption Anda; penalaran di latar belakang tidak memperpanjang sesi.

Harga tidak bergerak, jadi biayanya adalah waktu rekayasa

Halaman harga Gemini API mengelompokkan Gemini 3.8 Live, 3.8 Live Extended Thinking dan 3.1 Flash Live Preview dalam satu tabel paid tier: input $0,75 per juta token untuk teks, $3,00 per juta atau $0,005 per menit untuk audio, dan $1,00 per juta atau $0,002 per menit untuk gambar dan video; output $4,50 per juta untuk teks dan $12,00 per juta atau $0,018 per menit untuk audio. Free tier juga tersedia.

Berpindah dari 3.1 Flash Live ke salah satu model 3.8 tidak menambah biaya per menit audio sama sekali. Yang mahal adalah penulisan ulang di atas. Kalau agen suara Anda menghabiskan banyak waktu menunggu backend yang lambat, imbalannya nyata: model bisa mengakui permintaan dan menjaga penelepon tetap terlibat sementara panggilan backend diselesaikan, alih-alih hening atau frasa tunggu yang kaku. Kalau semua tool Anda mengembalikan hasil di bawah satu detik, handshake asinkron ini tidak banyak membantu, dan gemini-3.8-live biasa, yang masih menyediakan mode blocking, adalah peningkatan dengan risiko lebih rendah.

Bacalah benchmark sebagaimana Google memilihnya

Tulisan Google mengutip skor 82,6 pada Speech to Speech Quality Index milik Artificial Analysis, 68,6% pada τ-Voice dan 35,1% pada benchmark agentik τ-Voice-banking dari Sierra, 97,7% pada Big Bench Audio, serta posisi kedua di Speech Agent Arena untuk 3.8 Live. Semua output audio diberi watermark SynthID.

Leaderboard Artificial Analysis secara independen mengonfirmasi klaim utama itu: Gemini 3.8 Live Extended Thinking (High) berada di 82,6 dan Gemini 3.8 Live di 76,0, di atas GPT-Realtime-2.1 High dari OpenAI di 73,9 dan Gemini 3.1 Flash Live High di 71,5. Itu peringkat pertama yang sungguhan di papan pihak ketiga, bukan angka yang dilaporkan sendiri.

Tetapi perhatikan apa sebenarnya indeks itu: rata-rata tertimbang dari Speech Reasoning, Agentic Performance, Arena Preference, dan Task Success Rate. Ia sebuah komposit, dan Google memilihnya sebagai angka pembuka. Angka yang paling langsung berbicara tentang skenario "menjalankan tool sambil bicara" adalah skor agentik τ-Voice-banking, dan itu 35,1%. Kira-kira satu dari tiga tugas multi-langkah bergaya perbankan yang selesai. Kalau agen Anda akan memindahkan uang, memesan janji temu, atau mengubah status akun, angka itulah yang harus menjadi dasar evaluasi Anda, bukan 82,6. Utas Hacker News tentang peluncuran ini kebanyakan berdebat apakah "berpikir" pada model suara itu sungguhan; pertanyaan yang lebih membumi adalah apakah 35,1% memenuhi ambang otonomi Anda. Untuk sebagian besar alur produksi, angka itu mendukung tetap mempertahankan langkah konfirmasi di dalam loop.

Ada ironi kecil soal waktunya. Di hari yang sama, menurut rangkuman Techmeme atas laporan Business Insider, Google membalik kebijakan internal yang sebelumnya hanya mengizinkan Gemini dan memberi para insinyurnya sendiri akses berkuota ke Claude Opus 5 di dalam IDE Antigravity, dengan Google menegaskan bahwa Gemini tetap menjadi model unggulan dan fondasi untuk pengembangan internal. Coding rupanya adalah area di mana staf Google sendiri ingin punya pilihan. Suara adalah satu-satunya area di mana leaderboard pihak ketiga saat ini menempatkan Google di posisi pertama.

Ketersediaan dan apa yang perlu dilakukan minggu ini

Menurut tulisan peluncurannya, kedua model tersedia di Gemini API dan Google AI Studio untuk developer, serta di Gemini Enterprise dalam private preview. 3.8 Live juga menggerakkan Search Live. Extended Thinking akan hadir di Gemini Enterprise for Customer Experience dan di Workspace: Docs untuk pelanggan Pro dan Ultra, Gmail dan Keep untuk semua pelanggan. Komentator Hacker News bertanya kapan model ini sampai ke Vertex dan mencatat bahwa tier Workspace Business masih menampilkan model lama, jadi di platform-platform itu jawabannya hari ini adalah "belum."

Kalau Anda menjalankan agen suara, inilah urutan kerja yang masuk akal:

Audit setiap tempat klien Anda membaca turnComplete. Daftar mana keputusan yang menyangkut audio (tidak masalah) dan mana yang menyangkut keadaan sesi (harus dipindahkan ke interaction_status).
Buat tool runner Anda asinkron sebelum menyentuh nama model. Jalankan tool yang ada dengan behavior: NON_BLOCKING terhadap gemini-3.8-live biasa lebih dulu, karena di sana mode blocking masih menjadi cadangan kalau ada yang rusak.
Baru setelah itu ganti string model ke gemini-3.8-live-extended-thinking, mulai dari thinking_level: low, dan ukur waktu-ke-audio-pertama terhadap baseline 3.1 Flash Live Anda.
Tulis eval yang mencerminkan tugas multi-langkah Anda yang sebenarnya dan bandingkan dengan angka 35,1% τ-Voice-banking, bukan skor komposit. Pertahankan konfirmasi manusia untuk semua yang tidak bisa dibatalkan sampai angka Anda sendiri layak dipertanggungjawabkan.
Periksa kode session-resumption Anda terhadap batas audio 15 menit; batas itu tidak berubah dan akan menggigit panggilan panjang persis seperti sebelumnya.