Quan chức Mỹ cảnh báo Wall Street về rủi ro của AI Anthropic

Mô hình Mythos cảnh báo rủi ro bảo mật

Trọng tâm là mô hình Mythos của công ty Anthropic được cho là phát hiện và sử dụng các lỗ hổng trong hệ điều hành và nền tảng web. Hơn nữa, công ty thừa nhận rằng mô hình có khả năng mô phỏng các cuộc tấn công khi bị kích hoạt trong điều kiện kiểm soát. Do đó, các cơ quan chức năng coi những khả năng như vậy là mối đe dọa tiềm tàng khi bị lạm dụng bởi các cá nhân có ý đồ xấu. Điều này đã tăng cường sự giám sát trong các lĩnh vực tài chính và quản lý. Anthropic có quyền truy cập hạn chế vào Mythos và đang phát triển các ứng dụng phòng thủ với Project Glasswing. Các công ty lớn như Amazon, Apple và JPMorgan Chase là một phần của sáng kiến này. Ngoài ra, các tổ chức như Google, NVIDIA và Linux Foundation đã tham gia. Cung cấp khả năng nâng cao bảo mật phần mềm thông qua phát hiện lỗ hổng hỗ trợ bởi AI, các nhóm này đang theo đuổi mục tiêu này.

Công ty đã đầu tư rất nhiều nguồn lực để thúc đẩy sáng kiến và mở rộng phạm vi phòng thủ. Anthropic cung cấp lên đến 100 triệu tín dụng sử dụng và 4 triệu tài trợ trực tiếp. Hơn nữa, hơn 40 tổ chức kiểm soát cơ sở hạ tầng quan trọng đã có thể truy cập hệ thống. Nỗ lực chung này nhằm mục đích khám phá và giải quyết các lỗi nghiêm trọng trong phần mềm phổ biến. Anthropic vẫn đáng chú ý với những thay đổi trong các phát triển pháp lý và quản lý. Chính quyền Trump đã cố gắng thực hiện các biện pháp chống lại công ty trong phân loại của họ nhưng đã bị một tòa án liên bang ở San Francisco ngăn chặn. Thẩm phán Rita Lin ra lệnh rằng việc chỉ định không có cơ sở luật định đáng kể. Do đó, phán quyết này chỉ là sự giảm nhẹ tạm thời vì các công ty AI vẫn đang bị giám sát chặt chẽ.

Công ty đã ghi nhận tăng trưởng tài chính mạnh mẽ và doanh thu định kỳ hàng năm đã tăng mạnh trong vài tháng qua. Điều này đã làm tăng sự quan tâm cả trong công nghệ và tài chính. Ngoài ra, các nhà phân tích vẫn đang đánh giá tác động tổng thể đối với các công ty đối thủ, chẳng hạn như Palantir Technologies. Các bên tham gia thị trường đang theo dõi cách triển khai AI ảnh hưởng đến cạnh tranh trong ngành. Những đổi mới gần đây nhất tại Anthropic đã mang lại sự quan tâm ngày càng tăng về bảo mật AI, các yêu cầu quản lý và hậu quả thị trường. Những điều này vẫn có ảnh hưởng trong các cuộc tranh luận chính sách và sự chuẩn bị tài chính.

Bài viết này ban đầu được xuất bản với tựa đề US Officials Warn Wall Street About the Risks of Anthropic AI trên Crypto Breaking News – nguồn tin cậy của bạn về tin tức tiền điện tử, tin tức Bitcoin và cập nhật blockchain.