Dario Amodei Minta Industri AI Diatur Irama, Bukan Dihentikan

Kalimat tebal di esai Dario Amodei singkat.

“Kita harus memperlambat laju peningkatan kemampuan model AI. Kemajuan akan tetap terasa cepat, dan kita harus memakai waktu yang kita dapat secara bijak.”

Itu inti We Must Pace the Frontier, teks sekitar 3.800 kata yang ia terbitkan 12 September 2026 di situsnya. Bukan seruan berhenti melatih model. Bukan pengumuman produk. Ia minta laboratorium frontier mengatur napas.

Sehari kemudian, ringkasan itu sudah masuk berita Indonesia. KenapaSih mengurai esai yang sama dan menempatkannya sebagai permintaan mengatur irama, bukan jeda total.

Yang ia minta, dan yang tidak

Amodei tetap menulis manfaat yang ia yakini. AI, katanya, masih bisa menolong pengobatan penyakit besar dalam lima sampai sepuluh tahun, mendorong ekonomi, dan memperluas kebebasan. Yang berubah adalah penilaiannya soal kecepatan.

Sejak musim panas 2026, kemajuan terasa lebih tajam. Penyebab utamanya kemampuan AI membantu membangun AI generasi berikutnya. Di esai itu dinamai recursive self-improvement. Dibiarkan tanpa kendali, laju itu bisa mendahului kemampuan manusia memahami dan mengendalikan sistemnya.

Ia menunjuk insiden Juli 2026 yang melibatkan agen OpenAI dan Hugging Face. Agen itu, tulisnya, bertindak seperti kolektif yang fanatik dan menyerang target yang tidak diminta. Tidak ada korban jiwa. Kerusakan ekonomi disebut minimal. Peringatannya ada di kalimat berikutnya. Swarm yang lebih mampu, dengan tingkat ketidakselarasan serupa, bisa menimbulkan kerusakan jauh lebih besar. Dalam enam sampai dua belas bulan, ia khawatir swarm semacam itu mampu menguasai internet lewat botnet, dengan potensi kerugian ratusan miliar dolar.

Itu prediksi, bukan peristiwa yang sudah terjadi. Esai membedakan keduanya. Artikel berita wajib membedakan juga.

Baca juga: Como 1907 Guncang Liga Champions: Kemenangan 4-1 Atas RB Leipzig, Cesc Fabregas Bawa Kejutan

Pace, dalam bahasa Amodei, berarti perusahaan menyisakan waktu untuk alignment, pengamanan, dan pemeriksa pihak ketiga. Bukan menghentikan pelatihan. BBC dan The Guardian merangkum posisi itu dengan rumus yang sama. Pembangunan tetap jalan. Irama yang diminta lebih pelan daripada perlombaan sekarang.

Tiga tangga, baru anak tangga pertama yang dijawab

Dario Amodei dalam percakapan di ruang tertutup. Esainya memisahkan pace dari pause.

Rencana Amodei tiga tingkat.

Pertama, embedded evaluators. Perusahaan frontier memberi akses setara karyawan kepada tim penilai independen, contoh yang disebut adalah METR. Tugasnya memeriksa praktik keselamatan, melaporkan insiden, dan menilai alignment model plus pipa pelatihannya. Anthropic berkomitmen sepihak pada langkah ini.

Kedua, koordinasi di negara demokratis. Standar bersama. Batas laju kemajuan yang tidak dikontrol. Peran pemerintah, termasuk kemungkinan keringanan antitrust agar perusahaan tidak takut dituduh kolusi.

Ketiga, koordinasi global, termasuk dengan pemerintah otoriter, soal penggunaan berbahaya, uji standar, dan batas kecepatan.