ChatGPT 将用户引导到一个它没有的功能的网站——于是创始人自己开发了这个功能

CN
Decrypt
關注
8 小時前

当你的网站遭遇无法处理的上传轰炸时,你会怎么做?软件开发者和音乐家阿德里安·霍洛瓦提(Adrian Holovaty)就遇到了这样的情况,他注意到他的公司乐谱扫描仪出现了奇怪的上传失败激增。

他没有预料到的是,罪魁祸首竟然是ChatGPT。

在最近的一篇博客文章中,Soundslice的联合创始人解释说,他在查看错误日志时发现,ChatGPT正在指示用户将ASCII“标签”——一种吉他手和其他人用来代替乐谱的简单音乐格式——上传到Soundslice以听取音频播放。问题是,这个功能并不存在。因此,霍洛瓦提决定自己来开发这个功能。

“据我所知,这是第一例因为ChatGPT错误地告诉人们某个功能存在而导致公司开发该功能的案例,”霍洛瓦提写道。

Soundslice于2012年推出,是一个互动音乐学习和分享平台,可以将照片或PDF中的乐谱数字化。

“我们的扫描系统并不支持这种风格的标记,”霍洛瓦提写道。“那么,为什么我们会被如此多的ASCII标签ChatGPT截图轰炸呢?我困惑了好几周——直到我自己尝试了一下ChatGPT。”

“我们从未支持ASCII标签;ChatGPT完全是在对人们撒谎。而且在这个过程中让我们看起来很糟糕,给我们的服务设定了错误的期望。”

AI幻觉现象是普遍存在的。自2022年ChatGPT公开发布以来,许多实例的聊天机器人,包括ChatGPT、谷歌Gemini和Anthropic的Claude AI,都将虚假或误导性的信息呈现为事实。

虽然OpenAI没有提及霍洛瓦提的说法,但该公司承认幻觉仍然是一个问题。

“解决幻觉是一个持续的研究领域,”OpenAI的一位发言人告诉Decrypt。“除了明确告知用户ChatGPT可能会出错外,我们还在通过多种方法不断努力提高我们模型的准确性和可靠性。”

OpenAI建议用户将ChatGPT的回答视为初稿,并通过可靠来源验证任何关键信息。它在系统卡和安全评估中心发布模型评估数据。

“幻觉不会消失,”西北AI咨询公司的联合创始人兼首席执行官怀亚特·梅汉(Wyatt Mayham)告诉Decrypt。“在某些情况下,比如创意写作或头脑风暴,幻觉实际上可能是有用的。”

而这正是霍洛瓦提所采取的方式。

“我们最终决定:那又怎么样?我们不妨满足市场需求,”他说。“所以我们组建了一个定制的ASCII标签导入器,这几乎是在我‘2025年预期编写的软件’清单的底部,我们还在我们的扫描系统中更改了用户界面文案,以告知人们这个功能。”

霍洛瓦提没有回应Decrypt的评论请求。

免责声明:本文章仅代表作者个人观点,不代表本平台的立场和观点。本文章仅供信息分享,不构成对任何人的任何投资建议。用户与作者之间的任何争议,与本平台无关。如网页中刊载的文章或图片涉及侵权,请提供相关的权利证明和身份证明发送邮件到support@aicoin.com,本平台相关工作人员将会进行核查。

ad
出入金首选欧易,注册立返20%
廣告
分享至:
APP下載

X

Telegram

Facebook

Reddit

複製鏈接