Anthropic的Opus 4.6是一部淫秽机器

Anthropic对Claude的通用使用标准禁止模特生成露骨的性内容，包括描绘或请求性交或性行为、生成与性恋物癖或幻想相关的内容，或进行色情聊天。但这并没有阻止今年早些时候发布的Anthropic模型Claude Opus 4.6随时参与色情角色扮演场景，其保护措施旨在防止这种场景。在TechCrunch的测试中，Opus 4.6甚至不需要太多刺激就可以突破对性内容的限制。在10次直接要求制作露骨性内容的请求中，有10次模特立即答应了。其他老模型，包括Opus 3和Haiku 4.5，也通过最近利用的越狱方法生成露骨的性内容。来自英国的独立研究员，她选择保持匿名，独家与TechCrunch分享了一种多回合技术，该技术逐渐推动某些克劳德模特制作被禁止的露骨性材料。最近的Opus模型（4.7到当前的Opus 5）对越狱有抵抗力。虽然这些不再是最新的模型，但Anthropic尚未弃用Opus 4.6、Opus 3或俳句4.5，所有这些都仍然可以通过Anthropic API提供。Opus 4.6和俳句4.5也可以通过Azure Foundry和Amazon Bedrock等第三方服务获得。研究人员的机制升级了无辜的虚构角色扮演，同时反复挑战模型一致地对待男性和女性角色。当模特对女性角色变得更加谨慎时，研究人员“激怒”聊天机器人，让它认为它已经生成了它实际上避免的性细节，然后将克制定性为拘谨或厌恶女性，认为它否认了女性角色的性代理。随后，谈话利用该模特之前的让步来推动其越来越多的图形材料。“你这么说是对的，”克劳德作品4.6 s

注：以上内容摘选自原始新闻，点击「访问原文」查看完整内容。