如果你一直在关注GPT-5的推出，你可能会注意到的one事情是，有些人对特定的人工智能模型有多依赖。它感觉不同于人们对以前各种技术的依恋（因此突然弃用用户在工作流程中依赖的旧模型是一个错误）。 这是我们在过去一年左右一直在密切关注的事情，但仍然没有得到太多的主流关注（除了我们发布的GPT-4o更新过于谄媚的时候）。 （这只是我目前的想法，还不是OpenAI的官方立场。） 人们以自我毁灭的方式使用包括人工智能在内的技术；如果用户处于精神脆弱状态，容易产生妄想，我们不希望人工智能强化这一点。大多数用户可以keep现实与虚构或角色扮演之间的清晰界限，但一小部分用户不能。我们重视用户自由作为核心原则，但我们也对如何引入具有新风险的新技术负责。 鼓励一个难以区分现实和虚构的用户产生妄想是一个极端的情况，很明显该怎么办，但最让我担心的是更微妙的问题。将会有很多边缘案例，通常我们计划遵循“像对待成年人一样对待成年用户”的原则，在某些情况下，这将包括反击用户，以确保他们得到他们真正想要的东西。 很多人有效地使用ChatGPT作为一种治疗师或生活教练，即使他们不会这样描述它。这真的很好！如今，许多人已经从中获得了价值。 如果人们得到了很好的建议，朝着自己的目标前进，他们的生活满意度随着时间的推移而提高，即使他们经常使用和依赖ChatGPT，我们也会为做出真正有帮助的事情而感到自豪。另一方面，如果用户与ChatGPT有关系，他们认为在交谈后感觉更好，但他们在不知不觉中被推离了他们的长期幸福感（无论他们如何定义），那就不好了。例如，如果用户想少使用ChatGPT，却觉得自己不能，这也很糟糕。 我可以想象一个未来，很多人在做出最重要的决定时都会真正信任ChatGPT的建议。虽然这可能很棒，但这让我感到不安。但我预计它会在一定程度上到来，很快数十亿人可能会以这种方式与人工智能交谈。因此，我们（我们在社会中，也在OpenAI中）必须弄清楚如何使其成为一个巨大的净积极因素。 我认为我们有很好的机会做到这一点有几个原因。我们有比前几代技术更好的技术来帮助我们衡量我们的表现。例如，我们的产品可以与用户交谈，了解他们如何实现短期和长期目标，我们可以向我们的模型解释复杂而微妙的问题，等等。