Anthropic推出全新防御机制 显著遏制针对Claude模型的蒸馏攻击
AI研究机构Anthropic发布最新技术成果，推出了针对旗下Claude大模型的高级防蒸馏攻击机制。
为应对日益复杂的攻击，Anthropic引入了限制思考上下文修改、双阶段分类器过滤以及严格的违规封号计费等综合手段。初步测试数据表明，新防御方案已成功阻止了绝大多数违法提取行为，使攻击者获取的核心推理数据量减少了约90%至99%。
来源：Anthropic
Anthropic推出全新防御机制 显著遏制针对Claude模型的蒸馏攻击
0 评论