搜索
Anthropic披露Claude危险使用案例 声称有伊朗账户用于威胁美军目标
12 小时前
9月11日消息，据美媒报道，美国AI公司Anthropic于周四发布报告称，已阻止部分科学家利用其Claude人工智能模型进行可能支持生物武器开发的活动。报告列举了五个相关案例，其中一例涉及增强蚊媒疾病传播能力的研究。Anthropic表示，虽无法确定这些案例是否直接关联生物武器制造计划，但已采取措施阻止相关活动，并向有关部门及行业伙伴通报了情况。此外，报告还揭示了其他不当行为，包括监控、诈骗、常规武器研发及宣传活动。Anthropic还称，已识别并封禁了利用Claude进行舆论引导的“影响力行动”账户，其中三个与伊朗有关联。据透露，其中一个与伊朗关联的威胁行为者曾利用Claude为针对该地区美军海军力量的攻击提供目标建议。
