Anthrop ic发现 ,也门北 部一个团体正在利用 其Claude人工智能模型协助研发导弹和 火箭系统, 进一步凸显外界对于先进AI被 用于军事项目以及被非国家行为体使用的担 忧。

  Anth r opic在周四发布的最新AI滥用识别与应对报 告中表示,这些身份不明的行为体正在推进三个武器项目,包括一种制导火箭、一种据称射程超过2,000公 里(124 3英里)的弹道导弹,以及一 个名为 R2000的导弹系列。

  这个位于也门 的团体利用Claude协助开发制导、导航和控制软件,实际上替代了通 常由软件工程师承担的部分工作。Anthropic称,这些行为体涉嫌将相关工作拆分到多个AI会话中,并隐瞒项 目的军 事性 质,以免被发现。 

  Anthr op ic表示,其在也门发现的这一团体曾进行一次火箭实弹测试,随后在一次疑似发射失败后向Claude寻求帮助,以诊断问题所在 。该公司称,没有发现证据表明相关工作最终形成了可投入使用的 武器。

  报告称,这 一团 体还开发了离线模拟工具包,使部分武器研发工作即使在无法持续访问Claude或工程软件环境的情况下也能继续进行。

  Anthropic表示,调查 后已封禁与相关活动有关的 账户,与合作伙伴分享了情 报,并加强了安全防护措施。