Anthropic PBC表示，其人工智能模型Claude遭到滥用，被用于尝试开发多种潜在军事用途，包括自杀式无人机群、导弹导航系统和生物武器。
Anthropic威胁情报团队周四发布的报告显示，过去一年被标记为滥用该公司前沿模型的用户来自包括伊朗、俄罗斯、中国和也门在内的多个国家。上述案例均未涉及Anthropic最先进的Fable和Mythos模型。
Anthropic在报告中表示：“随着模型能力不断增强，如果AI开发者以及社会中的防护力量不采取行动提高安全性，其风险也将随之上升。”
美国AI公司一直在竞相开发和部署能力更强的AI系统，部分原因是希望保持对中国等竞争对手的领先，同时努力维持安全防护措施。Anthropic正试图防止其技术被用于有害目的，包括研发生物武器和常规武器。
这一立场令Anthropic与五角大楼发生直接冲突。此前，Anthropic拒绝允许Claude被用于大规模监控或自主武器系统，五角大楼随后暂停了与该公司的合作 。
报告称，一些用户曾试图利用Claude协助美国的敌对方。在许多案例中，他们试图绕过Claude的安全防护措施，或隐瞒所在位置。
海量资讯、精准解读，尽在新浪财经APP
责任编辑：江学思
汇盈策略提示：文章来自网络，不代表本站观点。
