Dario Amodei Minta Kewenangan untuk Blokir AI Tidak Aman Sehari setelah Peluncuran Claude Fable 5

CEO Anthropic, Dario Amodei, menyerukan pengujian wajib oleh pihak ketiga untuk model AI frontier pada hari Rabu. Ia juga ingin pemerintah diberi wewenang untuk memblokir sistem yang gagal dalam audit keamanan.

Esai berjudul Policy on the AI Exponential ini muncul sehari setelah Anthropic merilis Claude Fable 5. Perusahaan ini juga mengajukan proposal legislatif terkait pengujian model dan kerangka kerja untuk dampak kehilangan pekerjaan.

Dario Amodei Bergerak dari Transparansi ke Aturan yang Mengikat

Pada 2025, Anthropic mendukung undang-undang yang berbasis keterbukaan informasi. Perusahaan ini mendukung SB 53 di California, RAISE Act di New York, dan SB 315 di Illinois. Tapi, Amodei menyampaikan bahwa transparansi saja sepertinya sudah tidak sejalan lagi dengan risiko yang ada.

Ia mengusulkan sistem yang mengambil contoh dari Federal Aviation Administration (FAA). Model yang melebihi ambang batas komputasi harus menjalani audit wajib oleh pihak ketiga dalam empat bidang.

Bidang tersebut meliputi keamanan siber, senjata biologis, kehilangan kendali, dan riset AI otomatis.

Ikuti kami di X untuk memperoleh berita terkini secara real-time

Rencana ini melampaui Executive Order tentang AI yang dikeluarkan Gedung Putih bulan Juni, yang disambut Amodei sebagai kemajuan bertahap.

Ia juga ingin laporan insiden keselamatan dilakukan dengan segera dan perlindungan ketat pada model weights.

Risiko Siber Menjadi Peringatan bagi Infrastruktur Kripto

Amodei menyebut keamanan siber sebagai risiko pertama yang betul-betul terjadi. Ia merujuk pada Claude Mythos Preview, yang berhasil menyelesaikan 73% tantangan siber tingkat ahli yang sebelumnya tidak pernah lolos oleh AI manapun.

Pada esai itu, ia memperingatkan bahwa model frontier bisa mengganggu sektor keuangan dan infrastruktur penting.

Analisis BeInCrypto juga telah menyoroti risiko keamanan DeFi yang berkaitan dengan model kelas Mythos, karena protokol Decentralized Finance (DeFi) menyimpan nilai yang terbuka dan rentan diserang.

Sementara itu, Anthropic meluncurkan Claude Fable 5 model pada 9 Juni dengan perlindungan yang memblokir permintaan siber dan biologi berisiko tinggi.

Amodei berargumen bahwa batasan sukarela semacam itu tidak bisa menggantikan aturan yang mengikat di seluruh industri.

Ia juga memperingatkan bahwa risiko otonomi bisa mengikuti. Data Anthropic sendiri sudah menunjukkan AI membangun AI yang lebih baik, di mana Claude menulis sebagian besar kode di laboratorium AI utama.

Kehilangan Pekerjaan, Kebebasan Sipil, dan Koalisi Negara Demokrasi

Dari sisi ekonomi, esai ini mengusulkan asuransi upah, insentif pajak untuk mempertahankan karyawan, serta hibah pelatihan tenaga kerja.

Jika penggantian tenaga kerja berlangsung lama, Amodei berpendapat bahwa pendapatan dasar universal bisa dibiayai melalui pajak perusahaan atau pajak keuntungan modal.

Agenda hak sipil juga cukup tegas. Amodei ingin senjata otonom penuh dilarang digunakan oleh penegak hukum dalam negeri. Ia juga mendesak Kongres untuk menutup celah hukum broker data yang memungkinkan pembelian data pengawasan massal.

Dari sisi geopolitik, ia menyerukan koalisi negara demokrasi untuk mengontrol chip dan peralatan manufaktur semikonduktor.

Ia menyebut dua RUU AS, MATCH dan OVERWATCH, sebagai langkah awal menuju pengawasan ekspor yang lebih ketat dan terkoordinasi.

Amodei menolak anggapan bahwa ketakutan publik terhadap AI hanyalah masalah pemasaran, dengan menyatakan kekhawatiran itu memang benar. Apakah Kongres akan membahas usulan pengujian dari Anthropic bisa menentukan arah kebijakan AI selanjutnya.