美國限制存取Anthropic AI模型的命令引發批評

紐約：美國政府下令Anthropic下架其最強大的人工智能模型，此舉在人工智能監管的支持者與反對者之間引發了一波批評浪潮。

週五晚間，這家總部位於舊金山的公司宣布，美國商務部以「國家安全」為由，下令其暫停Mythos 5和Fable 5，但未提供進一步細節。

Mythos 5不受限制，僅向少數合作夥伴開放；Fable 5則不同，它受到嚴格保護，以防止任何重大濫用，尤其是網絡攻擊或化學及生物武器的開發。

但Anthropic表示，一個身份未被披露的組織向特朗普政府報告，稱其發現了一種繞過安全措施的方法，而這些安全措施原本是為了防止Fable 5被用於網絡攻擊。

Anthropic將這個由第三方——多家媒體指其為亞馬遜——發現的漏洞描述為「狹窄的」，並表示其所暴露的軟件漏洞「微不足道」。

該指令僅適用於外國公民的訪問，但Anthropic表示無法根據國籍區分用戶，因此被迫將其模型下線。

政府全面禁止本國公司開發的先進人工智能模型，此事史無前例。

中國屏蔽了對最具能力的西方人工智能模型的訪問，並對主要國內人工智能公司實施限制，但這些限制通常在模型發布前就已內置於模型之中。

一個「衝動」的決定

企業家Martin Varsavsky表示，這項命令的影響「巨大」。

任何「開發前沿模型」的初創公司「都受制於政府，」他在X上評論道。「因此，這項命令不僅是對Anthropic的懲罰，更改變了整個行業的規則。」

研究人員Gary Marcus表示，在週五政府發出公告之前，他認為美國和中國在人工智能競賽中打成了「平局」。

「我從沒想到特朗普政府會從背後絆倒美國自身的努力，」Marcus說，「但它剛剛就這樣做了。」

一些觀察人士認為，Anthropic對自身的困境負有相當大的責任，因為它多年來一直警告與最先進人工智能模型相關的風險。

週三，Anthropic首席執行官Dario Amodei再次呼籲政策制定者「啟動一套緩慢而脆弱的政策機制，以應對從現在起將以驚人速度複利疊加的風險與機遇。」

特朗普總統的幾位支持者——就在幾週前，他們還像特朗普政府本身一樣強烈反對人工智能監管——如今試圖為這項指令辯護。

其中包括頗具影響力的投資人Marc Andreessen和前白宮人工智能顧問David Sacks。

然而，其他人，包括前特朗普人工智能顧問Dean Ball，指責他們言行不一，指出他們曾在前總統Joe Biden任內猛烈批評監管努力。

支持監管的團體「美國負責任創新組織」認為，如此重大的決定不應「衝動」地作出，也不應受「政治偏袒」左右。

Anthropic目前與特朗普政府關係緊張，後者已終止與該公司的所有政府合同。

許多觀察人士同意人工智能已進入需要更多政府介入的新時代，但他們強烈反對此次行動的處理方式。

「在一個正常運作的政府中，不會有人對這樣的行動毫無準備，」專注於新興技術的智庫「進步研究所」的Ben Murphy說。

「政府原本只需要求Anthropic在發布前進行額外測試或增加更多安全保障，」他在X上寫道。

維吉尼亞大學教授Mona Sloane表示，人工智能的快速加速發展以及影響力集中在少數公司手中，令各國政府措手不及。

這意味著「我們有可能再次看到」政府強制暫停人工智能模型，她說。