克劳德的个性随着模型和你说的语言而变化。

CN
Decrypt
关注
3小时前

克劳德在每次对话中的表现并不相同。根据周一发布的新研究,人工智能巨头Anthropic发现其助手根据用户选择的模型和所使用的语言,始终表达不同的价值观。


在周一发布的报告中,Anthropic的研究人员分析了309,815个与克劳德的匿名用户对话,涉及提供建议或反馈等主观任务。该公司表示,他们将超过3,300个识别出的价值观提炼为四个行为维度——尊重与谨慎、温暖与严格、深度与简练,以及坦诚与执行——描述了克劳德在每次对话中回应的不同之处。


“为了确保我们测量的是克劳德表达的价值观——而不是用户提出的请求或提出方式的差异——我们控制了每次对话的任务、主题和用户表达的价值观。”研究人员写道。


根据Anthropic的说法,每个克劳德模型展现了独特的行为特征。





Sonnet 4.6强调温暖、尊重和简练,常常肯定用户,并用幽默或鼓励的方式回应。同时,Opus 4.7则强调严格、谨慎、坦诚和深度,更频繁地挑战假设,解释其推理,识别风险,承认其局限性。Opus 4.6通常采取较简洁的、以执行为中心的方法,同时在严格性上比Sonnet更为重视。


“这些发现与人们对这些模型的看法相一致,无论是在Anthropic内部还是在线上。克劳德.ai用户评论称,Opus 4.7对其回答的保留程度比其他模型更高,”研究人员写道。


根据Anthropic的说法,克劳德的行为也因语言而异。


阿拉伯语的回应通常更加尊重,而英语的回应则更强调谨慎。克劳德在印地语和阿拉伯语中表现得最为温暖,使用更加礼貌、活泼和鼓励的语言。与此同时,英语和俄语的回应则更为严格,常常挑战假设、纠正细节并要求证据。


英语的回应也倾向于提供更详细的解释,而阿拉伯语的回应则通常更为简洁。荷兰语的回应最为坦诚,更加容易承认不确定性和错误,而印尼语的回应则更侧重于完成用户的请求。


Anthropic表示,这项研究并不暗示克劳德本身具有价值观。该公司表示,目前尚不清楚造成这些差异的原因——或者这些差异是否可取——但相信这一框架可以帮助评估未来的模型并识别无意中的行为变化。


这项研究是Anthropic一系列关于克劳德内部行为的研究中的最新成果。


在十月,该公司报告称,其模型表现出早期的“功能性内省意识”迹象,使其能够识别和描述自身内部处理的某些方面。在四月,Anthropic发布了研究,识别影响克劳德行为的内部“情感向量”,同时强调这些并不证明情感或意识的存在。


免责声明:本文章仅代表作者个人观点,不代表本平台的立场和观点。本文章仅供信息分享,不构成对任何人的任何投资建议。用户与作者之间的任何争议,与本平台无关。如网页中刊载的文章或图片涉及侵权,请提供相关的权利证明和身份证明发送邮件到support@aicoin.com,本平台相关工作人员将会进行核查。

分享至:
APP下载

X

Telegram

Facebook

Reddit

复制链接