人工智能即将迎来其最大升级：情感智能

情感智能代理的曙光——为静态气质和动态互动而构建——已经到来，如果上周发布的两篇无关研究论文可以作为判断标准的话。

时机非常敏感。几乎每天，新闻报道都在记录聊天机器人如何推动情绪不稳定的用户自残或伤害他人的实例。然而，整体来看，这些研究表明，人工智能正在进入一个个性和情感甚至可以更根本地塑造代理推理、交流和谈判的领域。

一个团队展示了如何用持久的心理原型来激发大型语言模型，而另一个团队则证明了代理可以在多轮谈判中发展情感策略。

个性和情感不再只是人工智能的表面修饰——它们正成为功能特征。静态气质使代理更可预测和可信，而适应性策略则提升了谈判中的表现，并使互动感觉异常人性化。

但这种可信度也引发了棘手的问题：如果人工智能可以用情感的细腻来恭维、劝诱或争论，那么当这些策略越过操控的界限时，谁来负责？又如何审计那些旨在扭曲情感和逻辑的系统中的“情感对齐”？

赋予人工智能个性

在心理增强的人工智能代理中，来自苏黎世联邦理工学院的Maciej Besta及其同事提出了一个名为MBTI-in-Thoughts的框架。他们并不依赖于重新训练模型，而是通过提示工程来锁定认知和情感两个维度上的个性特征。

“基于迈尔斯-布里格斯性格类型指标（MBTI），我们的方法通过提示工程为代理提供独特的个性原型，”作者写道。这使得“在两个基础的人类心理学维度——认知和情感——上控制行为成为可能，”他们补充道。

研究人员通过为语言模型分配“情感表达”或“分析准备”等特征来测试这一点，然后测量其表现。表现出色的代理在叙事生成方面表现优异；而分析型代理在博弈论推理中表现更佳。为了确保个性特征的持久性，团队使用了16Personalities测试进行验证。

“为了确保特征的持久性，我们整合了官方的16Personalities测试进行自动验证，”论文解释道。换句话说：人工智能必须持续通过人类个性测试，才能算作心理上被激发。

最终的结果是一个系统，开发者可以召唤具有一致个性的代理——一个富有同情心的助手，一个冷静理性的谈判者，一个戏剧性的讲故事者——而无需修改底层模型。

与此同时，来自剑桥大学的Yunbo Long及其合著者在EvoEmo：多轮谈判中LLM代理的进化情感策略中解决了相反的问题：不仅是代理具有什么个性，而是它如何在谈判中动态地转变情感。

该系统将情感建模为马尔可夫决策过程的一部分，这是一种数学框架，其中结果不仅依赖于当前选择，还依赖于一系列先前状态和概率转移。EvoEmo随后使用进化强化学习来优化这些情感路径。正如作者所说：

“EvoEmo将情感状态转变建模为马尔可夫决策过程，并采用基于种群的遗传优化，在多样的谈判场景中进化高回报的情感策略。”

与其固定代理的情感基调，EvoEmo让模型适应——根据对话的进展变得和解、果断或怀疑。在测试中，EvoEmo代理始终优于普通基线代理和具有静态情感的代理。

“EvoEmo始终优于两个基线，”论文指出，“实现了更高的成功率、更大的效率和为买家节省更多。”

简单来说：情感智能不仅仅是表面装饰。它在谈判等任务中显著改善了结果。

乍一看，这两篇论文似乎没有关联。一篇关于原型，另一篇关于策略。但结合阅读，它们描绘了人工智能可能演变的两部分地图：

MBTI-in-Thoughts确保代理具有一致的个性——同情或理性、表达或克制。EvoEmo确保这种个性可以在对话的不同回合中灵活变化，通过情感策略塑造结果。结合这两者是相当重要的。

例如，想象一个客户服务机器人，既有顾问的耐心温暖，又知道何时在政策上坚持立场——或者一个谈判机器人，开始时和解，随着风险的增加变得更加果断。是的，我们注定要失败。

人工智能演变的故事大多与规模有关——更多的参数、更多的数据、更多的推理能力。这两篇论文表明，一个新兴的章节可能与情感层次有关：赋予代理个性框架，并教会它们实时运用这些能力。下一代聊天机器人不仅会更努力地思考——它们还会更加闹情绪、恭维和策划。

免责声明：本文章仅代表作者个人观点，不代表本平台的立场和观点。本文章仅供信息分享，不构成对任何人的任何投资建议。用户与作者之间的任何争议，与本平台无关。如网页中刊载的文章或图片涉及侵权，请提供相关的权利证明和身份证明发送邮件到support@aicoin.com，本平台相关工作人员将会进行核查。