達裡奧·阿莫迪警告稱，人工智慧發展速度超過政策制定速度，治理存在缺口，他敦促進行具有約束力的安全和經濟改革。

Dario Amodei，首席執行官 人類的他在一篇新文章中指出，人工智慧的發展速度遠遠超過政治體系的應對能力，並認為隨著前沿模型開始重塑安全、經濟和公共機構，政策制定者必須迅速適應。他將人工智慧發展與立法之間的差距比作行動敏捷的哈比人和行動遲緩的樹胡之間的對比，並表示隨著模型在程式設計、科學和其他知識工作領域的不斷改進，這種不匹配的局面變得日益緊迫。

這位企業家強調，早期的政策努力主要局限於透明度措施、出口管制和資料收集，因為風險當時仍在不斷湧現且不明朗。他指出，如今情況已發生變化，前沿模型的能力暴露出嚴重的網路安全隱患，並表明先進的人工智慧系統可能影響金融穩定、關鍵基礎設施和國家安全。他認為，下一階段的政策不應僅限於資訊揭露，而應著眼於針對高風險模型製定具有約束力的規則。

人工智慧時代的監管、經濟動盪與新興政策重點

在監管和公共安全方面，達裡奧·阿莫迪提出了一套類似於航空監管的框架，要求在部署高級模型之前必須進行強制性的第三方測試。他表示，計算能力超過一定閾值的模型應評估其在網路安全、生物濫用、失控以及可能加劇這些威脅的自動化研究等方面的風險。他還指出，如果這些風險被認為不可接受，政府應有權延遲或阻止部署，同時要求人工智慧開發人員採取強有力的安全措施，定期進行紅隊演練、滲透測試，並及時報告安全事件。

這篇文章也重點關注了經濟動盪。阿莫迪指出，強大的人工智慧技術可以加速經濟成長，但同時也取代大量工人，因為它能比以往的技術更快取代人類的認知勞動。他警告說，這可能會導致一個經濟快速成長但同時不平等現象持續存在的世界，使得確保經濟利益惠及大眾變得更加困難。他認為，政策應該著重於衡量經濟成長、支持勞動力、提供薪資保障、進行再培訓，以及在勞動力需求大幅下降的情況下可能需要提供更長期的收入支持。

在另一部分內容中，Anthropic執行長表示，人工智慧可以加速科學進步，尤其是在生物醫學領域，但現有的監管體係可能過於緩慢，無法應對人工智慧輔助創新浪潮。他建議FDA和EMA等審批機構做好準備，接受基於人工智慧的模擬、合成對照組以及其他能夠在不降低安全性的前提下縮短藥物研發週期的方法。

達裡奧·阿莫迪也警告說，人工智慧可能會增強國家權力，並帶來新的公民自由風險，包括自主武器、大規模監控以及政府不公平地使用人工智慧。他呼籲制定更嚴格的問責規則，限制在國內使用完全自主武器，並加強隱私保護。

最後，他表示，民主國家應該在人工智慧供應鏈、安全標準和經濟協調方面開展合作，並指出人工智慧正在成為一種戰略技術，其地緣政治重要性堪比核能。