Enam laporan misalignment OpenAI, dibaca sebagai threat model
Lewati perdebatan soal transparansi. Enam perilaku yang diungkap OpenAI bisa dilakukan coding agent Anda hari ini, dan kebanyakan tim tidak memantau satu pun.
Tag
#agen
Jev: keputusan yang pipeline agen Anda palsukan dengan LLM
Kebanyakan pipeline agen memalsukan klasifikasi dengan JSON mode dan regex. Jev menjadikannya primitif dengan probabilitas terkalibrasi. Apa yang berubah, dan apa yang benar dari skeptis HN.
Kode Etik MAI: apa yang tak bisa ditimpa system prompt Anda
Draf Kode Etik MAI dibaca sebagai spesifikasi: perilaku apa yang berada di atas system prompt Anda, apa yang bisa diatur operator, dan apa yang perlu diajukan sebelum konsultasi ditutup.