当你的网站遭遇无法处理的上传轰炸时，你会怎么做？软件开发者和音乐家阿德里安·霍洛瓦提（Adrian Holovaty）就遇到了这样的情况，他注意到他的公司乐谱扫描仪出现了奇怪的上传失败激增。

他没有预料到的是，罪魁祸首竟然是ChatGPT。

在最近的一篇博客文章中，Soundslice的联合创始人解释说，他在查看错误日志时发现，ChatGPT正在指示用户将ASCII“标签”——一种吉他手和其他人用来代替乐谱的简单音乐格式——上传到Soundslice以听取音频播放。问题是，这个功能并不存在。因此，霍洛瓦提决定自己来开发这个功能。

“据我所知，这是第一例因为ChatGPT错误地告诉人们某个功能存在而导致公司开发该功能的案例，”霍洛瓦提写道。

Soundslice于2012年推出，是一个互动音乐学习和分享平台，可以将照片或PDF中的乐谱数字化。

“我们的扫描系统并不支持这种风格的标记，”霍洛瓦提写道。“那么，为什么我们会被如此多的ASCII标签ChatGPT截图轰炸呢？我困惑了好几周——直到我自己尝试了一下ChatGPT。”

“我们从未支持ASCII标签；ChatGPT完全是在对人们撒谎。而且在这个过程中让我们看起来很糟糕，给我们的服务设定了错误的期望。”

AI幻觉现象是普遍存在的。自2022年ChatGPT公开发布以来，许多实例的聊天机器人，包括ChatGPT、谷歌Gemini和Anthropic的Claude AI，都将虚假或误导性的信息呈现为事实。

虽然OpenAI没有提及霍洛瓦提的说法，但该公司承认幻觉仍然是一个问题。

“解决幻觉是一个持续的研究领域，”OpenAI的一位发言人告诉Decrypt。“除了明确告知用户ChatGPT可能会出错外，我们还在通过多种方法不断努力提高我们模型的准确性和可靠性。”

OpenAI建议用户将ChatGPT的回答视为初稿，并通过可靠来源验证任何关键信息。它在系统卡和安全评估中心发布模型评估数据。

“幻觉不会消失，”西北AI咨询公司的联合创始人兼首席执行官怀亚特·梅汉（Wyatt Mayham）告诉Decrypt。“在某些情况下，比如创意写作或头脑风暴，幻觉实际上可能是有用的。”

而这正是霍洛瓦提所采取的方式。

“我们最终决定：那又怎么样？我们不妨满足市场需求，”他说。“所以我们组建了一个定制的ASCII标签导入器，这几乎是在我‘2025年预期编写的软件’清单的底部，我们还在我们的扫描系统中更改了用户界面文案，以告知人们这个功能。”

霍洛瓦提没有回应Decrypt的评论请求。

免责声明：本文章仅代表作者个人观点，不代表本平台的立场和观点。本文章仅供信息分享，不构成对任何人的任何投资建议。用户与作者之间的任何争议，与本平台无关。如网页中刊载的文章或图片涉及侵权，请提供相关的权利证明和身份证明发送邮件到support@aicoin.com，本平台相关工作人员将会进行核查。