Anthropic Menangguhkan Fable 5 dan Mythos 5 Setelah Pemerintah AS Mengeluarkan Arahan Pengendalian Ekspor

TLDR:

• Pemerintah AS mengeluarkan arahan kontrol ekspor yang memerintahkan Anthropic untuk menangguhkan semua akses Fable 5 dan Mythos 5 secara global.
• Anthropic meninjau laporan jailbreak dan menemukan bahwa kemampuan tersebut sudah tersedia di model seperti GPT-5.5 milik OpenAI.
• Jailbreak yang dilaporkan melibatkan permintaan kepada Fable 5 untuk membaca codebase dan menandai kelemahan perangkat lunak, tanpa hasil berbahaya yang diungkapkan.
• Anthropic memperingatkan bahwa standar penarikan tersebut, jika diterapkan di seluruh industri, akan secara efektif menghentikan semua penerapan model AI terdepan.

Anthropic telah menonaktifkan akses global ke Fable 5 dan Mythos 5 menyusul arahan kontrol ekspor dari pemerintah AS.

Perintah tersebut, diterima pukul 05:21 WIB, mengutip kekhawatiran keamanan nasional yang terkait dengan metode jailbreak yang dilaporkan. Semua model Anthropic lainnya tetap tersedia.

Perusahaan menyatakan sedang mematuhi arahan tersebut sambil mempersoalkan dasar teknis dari keputusan itu.

Arahan Pemerintah Menargetkan Metode Jailbreak yang Dilaporkan

Pemerintah AS mengeluarkan arahan tersebut tanpa mengungkapkan detail keamanan nasional secara tertulis. Pejabat menyampaikan secara lisan bahwa mereka telah mengetahui sebuah metode yang mampu melewati perlindungan Fable 5.

Anthropic meninjau demonstrasi teknik ini dan menemukan bahwa teknik tersebut hanya mengekspos kerentanan kecil yang sudah diketahui sebelumnya.

Perusahaan meninjau apa yang diyakininya sebagai laporan di balik keputusan pemerintah. Anthropic menyatakan bahwa tingkat kemampuan yang ditampilkan "tersedia secara luas dari model lain, termasuk GPT-5.5 milik OpenAI, dan digunakan setiap hari oleh para pembela yang menjaga keamanan sistem." Tinjauan tersebut tidak menemukan peningkatan kemampuan spesifik Fable dalam temuan tersebut.

Jailbreak yang dilaporkan pada dasarnya melibatkan permintaan kepada model untuk membaca codebase dan mengidentifikasi kelemahan perangkat lunak. Anthropic mengonfirmasi bahwa pihaknya "bahkan belum menerima pengungkapan jailbreak potensial non-universal yang mengkhawatirkan yang menghasilkan hasil berbahaya." Jailbreak potensial yang diungkapkan sepenuhnya tidak berbahaya atau diklasifikasikan sebagai temuan kecil.

Arahan tersebut mengharuskan penangguhan akses bagi semua warga negara asing, termasuk karyawan Anthropic yang berstatus warga negara asing, baik di dalam maupun di luar Amerika Serikat. Perusahaan menyatakan bahwa kepatuhan berarti menonaktifkan model untuk semua pelanggan guna menghindari pelanggaran apa pun terhadap perintah tersebut.

Anthropic Mempersoalkan Standar yang Diterapkan pada Model Komersial

Anthropic meluncurkan Fable 5 dengan strategi pertahanan berlapis, menggabungkan resistensi jailbreak yang sempit dengan pemantauan real-time dan retensi data wajib selama 30 hari.

Perusahaan mengakui saat peluncuran bahwa "resistensi jailbreak yang sempurna saat ini tidak mungkin bagi penyedia model mana pun."

Kebijakan retensi data 30 hari adalah kompromi yang disengaja. Kebijakan ini mendapat penolakan dari pelanggan tetapi memungkinkan Anthropic untuk mendeteksi, mempelajari, dan merespons upaya jailbreak dengan cepat.

Anthropic menggambarkan hal ini sebagai membuat jailbreak "baik sempit maupun sangat mahal untuk diproduksi," menjaga tingkat risiko setara dengan model yang diterapkan lainnya di seluruh industri.

Mengenai kewenangan pemerintah untuk bertindak, Anthropic menyatakan bahwa pihaknya "percaya pemerintah harus memiliki kemampuan untuk memblokir penerapan yang tidak aman, sebagai bagian dari proses hukum yang transparan, adil, jelas, dan didasarkan pada fakta teknis." Perusahaan berargumen bahwa arahan ini tidak memenuhi standar tersebut.

Anthropic memperingatkan bahwa penerapan standar penarikan ini secara luas "pada dasarnya akan menghentikan semua penerapan model baru bagi semua penyedia model terdepan."

Perusahaan berkomitmen untuk merilis detail teknis tambahan dalam 24 jam dan mengonfirmasi bahwa semua model lainnya dalam jajaran produk mereka terus beroperasi tanpa batasan.

Postingan Anthropic Menangguhkan Fable 5 dan Mythos 5 Setelah Pemerintah AS Mengeluarkan Arahan Kontrol Ekspor pertama kali muncul di Blockonomi.