美国官员警告华尔街关于Anthropic人工智能的风险

Mythos 模型标记安全风险

焦点集中在 Anthropic 公司的 Mythos 模型上,该模型据称能够检测和利用操作系统和网络平台中的漏洞。此外,该公司承认该模型能够在受控条件下受到挑衅时模拟攻击。因此,当局认为这种能力在被居心不良的人滥用时可能构成威胁。这加强了金融和监管领域的审查。Anthropic 对 Mythos 享有有限的访问权限,并正在通过 Project Glasswing 发展防御应用程序。亚马逊、苹果和摩根大通等大公司都是该计划的一部分。此外,谷歌、NVIDIA 和 Linux 基金会等组织也参与其中。这些团体致力于通过基于人工智能的漏洞检测来增强软件安全性。

该公司投入大量资源推动该计划并深化防御范围。Anthropic 提供了高达 1 亿的使用积分和 400 万的直接资金。此外,超过 40 个控制关键基础设施的组织能够访问该系统。这项联合努力旨在发现和解决流行软件中的高严重性缺陷。Anthropic 在法律和监管发展变化中仍然备受关注。特朗普政府试图对该公司的分类采取措施,但被旧金山联邦法院阻止。法官 Rita Lin 裁定该指定没有实质性的法律依据。因此,这一裁决只是短暂的缓刑,因为人工智能公司仍在严密监视之下。

该公司录得强劲的财务增长,其年度经常性收入在过去几个月中急剧增加。这增加了科技和金融领域的兴趣。此外,分析师仍在评估对 Palantir Technologies 等竞争公司的整体影响。市场参与者正在追踪人工智能实施如何影响行业竞争。Anthropic 的最新创新引起了人们对人工智能安全、监管要求和市场后果的更多关注。这些在政策辩论和财务准备方面一直具有影响力。

本文最初以"美国官员警告华尔街关于 Anthropic AI 的风险"发表在 Crypto Breaking News 上——您值得信赖的加密货币新闻、比特币新闻和区块链更新来源。