AI代写正在渗透科学——这是一件坏事吗?

CN
Decrypt
關注
19 小時前

哪些词会暴露人工智能的痕迹?一项对超过1500万篇生物医学摘要的研究发现,2024年发布的科学论文中至少有13.5%显示出使用了人工智能辅助写作工具的迹象,尤其是OpenAI的ChatGPT。

这项由西北大学和图宾根大学赫尔蒂人工智能脑健康研究所的研究人员进行的研究发现,2024年与人工智能生成写作相关的词汇模式急剧上升。这些词汇包括一些不常见的术语——如“深入探讨”、“强调”和“展示”——以及更为熟悉的词汇,如“潜力”、“发现”和“关键”。

为了衡量这种变化,研究人员将2024年的词频与2021年和2022年的基线数据进行了比较。他们最终识别出454个被人工智能模型频繁过度使用的词汇,包括“概括”、“值得注意”、“强调”、“审查”和“无缝”。

然而,专家向Decrypt解释,仅凭词频并不足以证明使用了人工智能。

“语言是随着时间而变化的,”加州大学圣地亚哥分校的传播学助理教授斯图尔特·盖格(Stuart Geiger)说。“‘深入探讨’这个词的使用激增,现在这个词已经成为社会的词汇,部分原因是ChatGPT。”

盖格强调,检测写作中的人工智能不仅是一个技术挑战;它也是一个伦理问题。

“合理检测大型语言模型(LLM)使用的唯一方法是你在场,监视写作过程,”他说。“这在后勤、道德和技术上都需要付出高昂的代价。”

然而,斯图尔特警告说,在不了解完整背景的情况下,不要仅凭表面线索就得出结论。

“可能他们只是看到了大量ChatGPT生成的写作,现在认为这就是好的写作,”他说。“这正是我们学术界所面临的整个问题,尤其是当我们不能简单地让学生坐在座位上,确保他们只用笔和纸时。”

随着人工智能生成文本变得越来越普遍,教育工作者开始转向声称能够检测它的工具;然而,这些工具的质量参差不齐。

在2024年10月,Decrypt测试了包括Grammarly、Quillbot、GPTZero和ZeroGPT在内的领先人工智能检测工具。结果差异巨大:ZeroGPT声称美国独立宣言有97.93%是人工智能生成的,而GPTZero则仅给出10%。

“有很多虚假产品在被销售,”盖格说。

根据盖格的说法,对人工智能写作工具的担忧与过去关于拼写检查、维基百科和CliffsNotes的辩论相呼应,反映出关于写作目的、作者身份和信任的更深层次问题。

“人们担心,当你必须自己写下这些词时,你必须考虑它们,”他说。“当他们看到一些感觉可疑的东西时,这正是人们强烈反应的原因。”

莱斯大学商学院教授凯瑟琳·佩尔利(Kathleen Perley)认为,尽管人工智能写作通常显示出某些模式,如重复的结构或过度使用的词汇(如“深入探讨”),但最重要的是它是否能帮助研究人员而不影响质量。她表示,这对于非母语英语使用者或面临其他挑战的人尤其重要。

“如果人工智能帮助研究人员克服语言障碍或学习障碍,并且不影响他们工作的原创性或质量,那么我认为这没有问题,”她告诉Decrypt。“我认为这可能是一个整体的好处,因为它让来自不同背景、想法和经历的人能够参与到可能因为缺乏正式写作技能而成为障碍的事情中。”

作为莱斯商学院院长的人工智能顾问,佩尔利指出,另一个困境是人们出于害怕被指控使用人工智能而倾向于改变自己的写作方式,并补充说她对某些可能被标记为潜在人工智能生成的词汇变得更加敏感。

虽然一些人批评这种风格缺乏个性,但佩尔利认为,人工智能辅助写作是一种可以使正式研究参与更加民主化的工具。

“当然,我们可能会看到更多的‘深入探讨’和破折号,”她说。“但如果人工智能帮助来自不同背景的人分享重要研究,我不在乎它听起来多么精致——这都是值得的。”

免责声明:本文章仅代表作者个人观点,不代表本平台的立场和观点。本文章仅供信息分享,不构成对任何人的任何投资建议。用户与作者之间的任何争议,与本平台无关。如网页中刊载的文章或图片涉及侵权,请提供相关的权利证明和身份证明发送邮件到support@aicoin.com,本平台相关工作人员将会进行核查。

ad
50U新人礼+5000U储值返利
廣告
分享至:
APP下載

X

Telegram

Facebook

Reddit

複製鏈接