Anthropic kooskõlastab tegevust Valge Maja ga pärast kunstliku intelligentsi turvalisusega seotud hädaolukorda

Enamik reegleid kirjutatakse enne mängu algust. Sa õpid nad, mängid ja elad nende otsustega.

Washingtonis käivitunud kunstliku intelligentsi üle peetav võitlus on selle järjekorra pööranud. Reeglaraamat koostatakse pärast mängu algust ning seda teevad samad kaks pooled, kes kevadel avalikult üksteist löövad.

Kaks aastat palusid AI valdkonna suurimad nimed Washingtonilt ühte asja – et riiklikud reeglid oleksid ennustatavad, et nad saaksid nende järgi oma tegevust planeerida. Investorid said sellest vihje ja hindasid AI-d kui küllaldaselt kindlat panust selleks kümnendiks, suunates raha mikrokiipide, andmekeskuste ja suurte avalike aktsiapakkumiste (IPO) ahelasse. Töötav eeldus oli, et valitsus liigub valitsuse kiirusega – aeglaselt ja ette nähtavalt – jättes piisavalt ruumi kohandusteks.

Siis üks ettevõte avastas, kui kiiresti see võib muutuda. Kõigi planeeringute keskel olnud aeglane ja ette nähtav valitsus ilmus üleöö koos kirjaga ja tähtaegaga, mida mõõdeti tundides.

Selle ettevõtte nimi on Anthropic. Päevad pärast seda, kui valitsus sunniti ühe oma uusima mudeli töölt ära, arvatakse nüüd Politico andmetel, et mõlemad pooled koostavad ühisraamistikku AI turvalisusriskide hindamiseks ja otsustamiseks, millal Washingtonil on õigus sekkuda.

Kuidas Anthropic’i konflikt Washingtoniga algas

12. juunil kell 17:21 EST sai Anthropic USA valitsuselt kirja, mis talle esimest korda tööstuses sundis teha. Mõne tunni jooksul olid tema kaks uusimat mudelit, Fable 5 ja Mythos 5, kasutamatuks muudetud.

Käsklust andis Kaubandusministeerium, allkirjastas minister Howard Lutnick ja nõudis ettevõttelt välisriiklaste kõigi ligipääsude katkestamist „riikliku julgeoleku“ põhjustel, teatas CNN.

Rohkem AI-d:

• Silicon Valley kiirgab lahendust probleemile, mille ise loonud
• Kontroversiaalne AI-ettevõte esitas just Chapter 7 pankrottaotluse
• Uber ja Lyft kasutavad AI-d sõidutasude tõstmiseks, väidab CR

Anthropic ütles, et kirjas ei olnud konkreetseid üksikasju, kuid tema arusaam oli, et ametnikud olid leidnud viisi, kuidas „jailbreakida“ Fable 5 – läbides mudeli turvalisuskaitse. Ettevõte järgis käsku ja keelas mõlema mudeli kõigil klientidel, et jääda käsu raamesse.

Anthropic vaidlustab, et risk seda kõike õigustaks. Kui sama standardit rakendada kogu tööstusse, siis tähendaks see, et tuhandeid miljoneid inimesi kasutava mudeli tagasikutsumine „kitsa potentsiaalse jailbreaki” pärast peataks kõik uued lanserimised kõikjal, väitis ettevõte IAPP-i andmetel.

Trigeriks oli mitme allika kohaselt konkurent. Fortune'i andmetel esitas Amazoni (AMZN) tegevjuht Andy Jassy rahaministrile Scott Bessentile murekiri selle kohta, et Fable 5 turvalisuskaitse võib olla ületatav, pärast seda kui Amazoni teadlased sundisid Mythos-klassi mudelit kirjeldama piiratud kübertunngrünni meetodeid.

Endine valitsuse AI-juht David Sacks ütles, et ametnikud palusid Anthropic’ilt mudeli parandada või eemaldada ning andsid eksportkäskluse „vilunult“, alles pärast ettevõtte keeldumist.

Sellest kõigest ei tulnud midagi vaakumisse. Donald Trump oli juba korraldanud föderaalsetele asutustele Anthropic’i toodete kasutamise lõpetamise ja valitsus kaalus otsust, millega ettevõtte mudelid eemaldatakse valitsussüsteemidest.

Eksportkäsklus oli teravnenuim lõikepunkt põhjustatud konfliktis, mis oli põhjustanud kuude jooksul pinget.

Konflikt ei alanud juunis. Siin on, kuidas see aasta sellele viis:

• 9. märts 2026: Anthropic esitas kohtusse hagistamise Pentagoni vastu pärast seda, kui teda märgistati riikliku julgeoleku ohuna, teatasid föderaalsete kohtute dokumentid Kalifornias Põhja-Districtis.
• 12. juuni 2026: Kaubandusministeerium andis Anthropic’ile käsu katkestada välisriiklaste ligipääs Fable 5 ja Mythos 5-le riikliku julgeoleku põhjustel, teatas CNN.
• 13. juuni 2026: Anthropic järgis käsku ja keelas mõlema mudeli kõigil klientidel, teatas IAPP.
• 18. juuni 2026: Valge Maja ja Anthropic alustasid arvatavasti ühisraamistiku koostamist, märkis Politico.

sankai &sol Getty Images

Mida uus Valge Maja raamistik tähendab AI-investoritele

See on pöördumine, millest tuleb aru saada. Valge Maja ja Anthropic koostavad nüüd arvatavasti ühist raamistikku AI turvalisusriskide hindamiseks ja tulevaste sekkumiste juhendamiseks, teatas Politico.

Otseselt öeldes tähendab see, et Washington ja juhtiv labor koostavad koos tingimusi, mille alusel võib valitsus sissetungida privaatettevõttesse ja lülita toode välja.

Kui ma kokku võtsin kuupäevad, siis mulle silma paistis just see järjestus. Valitsus ei oodanud reeglaraamatu valmimist. See kasutas eksportkontrolli volitusi – neid, mida tavaliselt kasutatakse mikrokiipide ja relvade suunas vastastele suunamiseks – et kõigepealt lülita valmis kaubanduslik tarkvara välja ja alles siis koostada standardit.

Seotud: Amazoni tegevjuht tegi Anthropic’ile asjad ebamugavaks

Selle järjestusest tuleneb kogu lugu kõigile, kes omavad AI-seotud varasid.

Investorid ei saa Anthropic’it otse osta. Ettevõte on privaatne ja valmistub praegu ainult esimese avaliku aktsiapakkumisega (IPO), olnud värbamas õigusfirmat Wilson Sonsini, kelle töö võib alata juba 2026. aastal, teatas TheStreet. Siiski puudutab see eeskuju igat nime, mille investorid saavad osta.

Nvidia (NVDA), kõige likvideerum pooleli olev analoog kogu AI-tegevusele, omab osa nii Anthropic’ist kui ka OpenAI-st. IPO-ahel, millele investorid loodavad – Anthropic’ist kuni OpenAI-ni – kannab nüüd riski, mida enne 12. juunil 2026 ei olnud.

Regulaator võib otsustada, et valmis ja turul olev mudel on riikliku julgeoleku probleem, ja tegutseda enne kui kohtuotsus selles küsimuses langetatakse.

Mis mind hämmastab, on see, kui lihtsalt see üle kandub. Kui mudelit, mida kasutavad sadu miljoneid inimesi, saab üleöö pimedaks teha ühe spetsiifilise ja vaidlustatava jailbreaki tõttu, siis sama lüliti võib olla ka andmekeskuste ehitamisel, mikrokiipide tellimustel ja AI-pakkumiste järjekorras, mida investorid ootavad.

Praegu koostatav raamistik otsustab, kas 12. juuni oli ühekordne süttimine või püsiv kontrollimehhanism.

Täiendav keerukus on see, et valitsuse arvatav nõue võib olla täitmata. Ametnikud soovivad, et Anthropic testiks oma mudelid ise, parandaks kõik jailbreakid ja teataks tulemustest enne väljalaske – efektiivselt nullvigade standard.

Anthropic ja sõltumatud turvalisusuuringute teadlased ütlevad, et sellised süsteemid nii ei tööta, sest mudelite väljundid on tõenäosuslikud ja ükski turvalisuskaitse ei suuda takistada kõiki võimalikke päringuid.

Kuhu Anthropic’i konflikt edasi liigub

Üllatav pole see, et mõlemad pooled vestlevad. Üllatav on see, kes hoiab pliiatsit. Regulaatori ja kõige rohkem sihtmärgiks saanud labori koostatud raamistik sisaldab nii Anthropic’i hinnangut tehniliselt võimalikule kui ka valitsuse kontrolli soovi ja see muutub tõenäoliselt mõõdupuuks, mille järgi hinnatakse kõiki teisi AI-ettevõtteid.

Liitunud riigid küsivad juba, kui usaldusväärne ameerika AI on, kui Washington saab selle üleöö välja lülitada – see küsimus järgneb nüüd igas eksportlepikus selle valdkonnas.

Investoritele on signaal lihtne ja veidi ebamugav.

Suurim risk AI-tegevusele 2026. aastal ei pruugi olla nõudluse langus ega andmekeskuses ülekuumenenud transistor. See võib olla kirja, mille alla kirjutatakse reede päeval ja millele ükski tuluennustusmudel ei suuda hinnata.

Jälgige, mida see raamistik tegelikult ütleb käivitusmechanismidest ja tähtaegadest. See keel, rohkem kui mis tahes mikrokiipide tehnoloogiarada, ütleb teil, kui palju AI-boomi Washington soovib enda ulatusse hoida.

Seotud: Valge Maja saatis Anthropic’ile šokeeriva sõnumi