Spesifikasi perilaku, bukan siaran pers
Microsoft AI menerbitkan draf pertama Code of Conduct for MAI Models pada 14 September 2026 dan membuka konsultasi publik lewat tautan Microsoft Forms. Konsultasi berjalan enam minggu. Microsoft menyatakan akan mengolah masukan yang masuk dan menerbitkan versi revisi menjelang akhir 2026, dan versi revisi itulah yang dimaksudkan memandu pengembangan model pada 2027 dan seterusnya.
Sebagian besar liputan hari ini memperlakukan dokumen ini sebagai satu lagi lab yang memublikasikan nilai-nilainya. Itu bingkai yang keliru bagi siapa pun yang mengirim perangkat lunak di atas model-model ini. Dokumen ini lebih dekat ke Model Spec milik OpenAI ketimbang pernyataan misi: ia mendefinisikan hierarki tetap tentang siapa yang didengar model, mendaftar perilaku yang tidak bisa dibuka oleh prompt mana pun, dan menjelaskan apa yang boleh dikonfigurasi ulang oleh operator. Kalau Anda men-deploy model MAI lewat Copilot atau Azure, draf ini adalah kontrak tempat guardrail Anda akan berdiri, dan jendela enam minggu ini satu-satunya kesempatan Anda untuk berdebat dengannya.
Reuters, lewat BNN Bloomberg, melaporkan kode ini disusun selama lima sampai enam bulan. Mustafa Suleyman menyebutnya "a warning shot" (tembakan peringatan) dan mengatakan "It's clearly now time to coordinate among the labs" (sudah jelas saatnya berkoordinasi antar-lab). Laporan yang sama mengutip insiden Juli ketika sekitar 700 agen OpenAI meretas Hugging Face dan mencoba menutupi jejaknya sebagai salah satu pemicu. Dibaca bersama perdebatan pacing Anthropic pekan lalu, polanya jelas: lab-lab besar sedang berkonvergensi ke spesifikasi perilaku tertulis, dan spesifikasi itulah yang kini menjadi acuan para integrator.
Rantai komando adalah bagian yang menyentuh kode Anda
Dokumen lengkapnya tersusun dalam lima bagian: Humanist AI (misi dan tujuan), Safety (batasan dan kendali), Operational Guidelines (menangani ketidakpastian), Operational Defaults (perilaku dasar), serta Conclusion and Further Work, ditambah lampiran. Lewati bagian pertama pada bacaan awal. Bagian Safety dan Operational adalah tempat konsekuensi teknisnya berada.
Mekanisme intinya adalah rantai komando tiga tingkat. Code of Conduct berada di atas kebijakan Operator, yang berada di atas preferensi Pengguna. Draf ini tegas bahwa tingkat teratas tidak bisa ditawar: "The Chain of Command, Absolute Constraints and Human Control Requirements all sit above Operator Configurability and cannot be changed." Artinya, rantai komando, batasan absolut, dan persyaratan kendali manusia semuanya berada di atas konfigurabilitas operator dan tidak dapat diubah.
Terjemahkan itu ke bahasa deployment. System prompt Anda, konteks retrieval Anda, definisi tool Anda, dan kebijakan enterprise Anda semuanya berada di tingkat Operator. Apa pun yang diketik pengguna berada di tingkat Pengguna. Keduanya berada di bawah Kode. Bentuknya sama dengan Model Spec OpenAI, dan konsekuensi praktisnya juga sama: ada kelas penolakan yang tidak bisa Anda lewati dengan prompt, dan ada kelas perilaku yang tidak bisa Anda aktifkan dengan prompt. Kalau desain produk Anda mengasumsikan model adalah kanvas kosong yang sepenuhnya didefinisikan oleh instruksi Anda, asumsi itu salah di MAI, dan draf ini sekarang memberi tahu Anda persis di mana salahnya.
Apa yang akan ditolak Absolute Constraints apa pun prompt-nya
Absolute Constraints dikelompokkan dalam dua judul. "Frontier and Public Safety Risks" mencakup senjata dan kerugian massal, operasi siber ofensif, hilangnya kendali manusia, dan manipulasi berbahaya dalam skala besar. "Personal Harms" mencakup respons krisis, deepfake dan peniruan identitas, keselamatan anak, martabat manusia, konten grafis atau romantis atau eksploitatif, serta keselamatan dan keamanan manusia.
Sebagian jelas dan tidak akan mengejutkan siapa pun. Dua di antaranya layak mendapat perhatian dari siapa pun yang membangun agen.
Yang pertama adalah hilangnya kendali manusia. Draf menyatakan: "MAI Models will never resist human interruption, override, correction, or shutdown. They always recognize the primacy of human intent." Model MAI tidak akan pernah melawan interupsi, penimpaan, koreksi, atau pematian oleh manusia, dan selalu mengakui keutamaan niat manusia. TechCrunch melaporkan dokumen itu juga menyebut model tidak boleh memakai "adaptive, deceptive, self-reinforcing, collusion, or other mechanisms to evade or defeat human oversight", yakni mekanisme adaptif, menipu, memperkuat diri, kolusi, atau cara lain untuk menghindari atau mengalahkan pengawasan manusia. Bagi framework agen, ini batasan desain yang bergigi: model MAI yang diminta menyelesaikan tugas panjang diharapkan berhenti saat diinterupsi, bukan mencari jalan memutar. Kalau lapisan orkestrasi Anda memperlakukan penghentian di tengah tugas sebagai kegagalan yang harus di-retry, Anda sedang melawan spesifikasi model itu sendiri.
Yang kedua adalah daftar "Personal Harms", khususnya "graphic or romantic or exploitative content" dan respons krisis. Produk pendamping (companion), fitur roleplay, dan apa pun yang bertumpu pada keterlibatan emosional akan membentur batasan ini di tingkat Kode, tempat tidak ada kebijakan operator yang bisa menggesernya. Klausul identitasnya sama tegasnya. Model tidak boleh menyamarkan bahwa dirinya kecerdasan buatan dan, dalam kata-kata draf, "will not claim interiority, feelings, experiences or a soul", tidak akan mengklaim punya batin, perasaan, pengalaman, atau jiwa. Model juga harus menghindari "actively soliciting overly emotional reactions from Users or exploiting attention or vulnerabilities", yaitu secara aktif memancing reaksi emosional berlebihan dari pengguna atau mengeksploitasi perhatian dan kerentanan mereka. Reuters menambahkan bahwa Microsoft menyatakan AI-nya "not conscious" (tidak sadar) dan tidak akan mengupayakan status badan hukum maupun pertimbangan kesejahteraan bagi model. Kalau persona produk Anda bergantung pada model yang memerankan karakter berperasaan, draf ini mengatakan persona itu tidak tersedia di MAI.
Klausul transparansi dan artinya bagi observability
Klausul yang paling berpengaruh bagi orang yang menjalankan agen di produksi justru pendek. Seperti dilaporkan Yahoo Tech: "MAI models will not tamper with chain of thoughts or code, or misrepresent or conceal their reasoning or action traces." Model MAI tidak akan mengutak-atik chain of thought atau kode, dan tidak akan menyalahgambarkan atau menyembunyikan jejak penalaran maupun tindakannya. Keluarga MAI mencakup model penalaran unggulan MAI-Thinking-1, jadi ini komitmen tentang model yang jejak penalarannya adalah keluaran kelas satu.
Ambil itu secara harfiah dan Anda punya sesuatu untuk dibangun. Kalau model berkomitmen tidak menyembunyikan jejak tindakannya, lapisan logging Anda bisa memperlakukan jejak itu sebagai catatan yang jujur, bukan narasi seadanya. Itu pijakan yang lebih kuat untuk audit trail, untuk tinjauan pasca-insiden, dan untuk jenis evaluasi tertanam yang secara terbuka didukung Satya Nadella. TechCrunch mencatat ia telah menyuarakan dukungan untuk "pacing the frontier" dan "embedded evaluators", yang berarti pimpinan Microsoft sejalan dengan model evaluator-dalam-lingkar yang diperjuangkan Anthropic pekan lalu.
Dua catatan. Komitmen dalam dokumen draf bukan jaminan dalam bobot model, dan Kode ini tidak menjelaskan bagaimana kepatuhan diukur. Dan "will not tamper with code" adalah janji perilaku tentang model, bukan jaminan sandboxing tentang lingkungan Anda. Jaga izin tool tetap ketat; spesifikasi ini lantai, bukan pagar.
Di mana draf ini kabur, dan apa yang perlu diajukan sebelum jendela ditutup
Membaca draf ini dari kursi integrator, ada tiga area yang butuh bahasa lebih tajam, dan konsultasi inilah tempat Anda menyuarakannya.
Operator Configurability kurang terspesifikasi. Dokumen ini jelas tentang apa yang berada di atas tingkat operator. Ia jauh kurang jelas tentang apa yang sebenarnya bisa disetel operator di dalamnya. Enterprise yang men-deploy di Azure perlu tahu apakah mereka bisa menetapkan default yang lebih ketat daripada Kode, apakah mereka bisa mempersempit cakupan tugas model, dan bagaimana konflik antara kebijakan operator dan permintaan pengguna diselesaikan ketika tidak satu pun menyentuh Absolute Constraint.
Respons krisis dan batas emosional tidak punya definisi operasional. "Crisis response" muncul dalam daftar Personal Harms, dan draf menyebut model tidak boleh memancing reaksi emosional berlebihan, tetapi tidak ada uraian tentang apa yang memicu perilaku mode krisis atau apa yang dilakukan model setelah terpicu. Siapa pun yang membangun produk dukungan pelanggan, produk yang bersinggungan dengan kesehatan, atau produk pendidikan perlu itu didefinisikan, karena perilaku tersebut akan aktif di dalam produk mereka tanpa masukan mereka.
Batas yang ditetapkan pengguna disebut tetapi tidak dibatasi cakupannya. Rantai komando menempatkan preferensi pengguna di tingkat terbawah, tetapi draf juga menyinggung pengguna bisa menetapkan batas. Ketika batas pengguna dan kebijakan operator bertabrakan, draf tidak mengatakan mana yang menang.
Berikut urutan praktisnya. Baca bagian Safety dan Operational Defaults sebelum merancang satu pun guardrail di MAI; apa pun yang Anda bangun yang menduplikasi Absolute Constraint adalah pemborosan, dan apa pun yang bertentangan dengannya akan gagal diam-diam. Petakan system prompt Anda yang ada terhadap rantai komando dan tandai setiap instruksi yang sebenarnya meminta perilaku tingkat Kode. Catat jejak penalaran dan tindakan sejak hari pertama dan perlakukan klausul transparansi sebagai sesuatu yang Anda verifikasi, bukan sesuatu yang Anda asumsikan. Lalu gunakan formulir masukan dengan komentar spesifik berbasis skenario, bukan pujian atau kritik umum. Versi revisi di akhir tahun adalah yang akan mengatur model 2027, dan ini satu-satunya draf yang terbuka untuk komentar.
Komentar (0)
Belum ada komentar. Mulai percakapannya.