Fox Corp.在周二宣布推出了名为“Verify”的新基于区块链的工具,为了在人工智能时代验证数字媒体的真实性,这在媒体界引起了轰动。
该项目解决了两个日益棘手的问题:人工智能使“深度伪造”内容更容易出现并误导读者,出版商经常发现他们的内容被未经许可用于训练人工智能模型。
一个愤世嫉俗的看法可能是,这只是一个大型公关行动。将“人工智能”和“区块链”混合在一起,形成“新闻信任”感觉像是一个很好的宣传素材,尤其是如果你是一个存在可信度问题的老牌媒体集团。我们都看过《继承者》,不是吗?
但是让我们暂时抛开讽刺,认真对待Fox及其新工具。在深度伪造方面,Fox表示人们可以将URL和图像加载到Verify系统中,以确定它们是否真实,这意味着出版商已将它们添加到Verify数据库中。在许可方面,人工智能公司可以使用Verify数据库以合规的方式访问(并支付)内容。
Fox的内部技术部门Blockchain Creative Labs与Polygon合作,后者是在庞大的以太坊网络之上运行的低费用、高吞吐量的区块链,用于在幕后支持这些工作。将新内容添加到Verify基本上意味着向Polygon区块链的数据库添加条目,其中存储了其元数据和其他信息。
与许多其他加密实验不同,这次的区块链关联可能有一定道理:Polygon为Verify上的内容提供了不可变的审计跟踪,并确保第三方出版商无需信任Fox来管理其数据。
目前的Verify感觉有点像一个被夸大的数据库检查器,一个简单的Web应用程序,使用Polygon的技术来跟踪图像和URL。但这并不意味着它是无用的——特别是当涉及帮助传统出版商在大型语言模型的世界中进行许可协议时。
我们已经将一些内容上传到Verify的Web应用程序中,以查看它在日常使用中的表现如何,我们很快就注意到了该应用程序在消费者使用案例中的局限性。
该Verify应用程序具有用于URL的文本输入框。当我们粘贴了一篇周二的福克斯新闻文章,内容涉及埃隆·马斯克和深度伪造(恰巧在该网站上占据了突出位置),然后按下“回车”键时,一大堆信息弹了出来,证明了文章的出处。除了交易哈希和签名(代表内容的Polygon区块链交易的数据)之外,Verify应用程序还显示了文章的相关元数据、许可信息以及一组出现在内容中的图像。
然后,我们下载并重新上传了其中一张图片到工具中,以查看是否可以验证。当我们这样做时,我们看到了与我们输入URL时类似的数据。(当我们尝试另一张图片时,我们还可以点击一个链接,查看该图片被用于其他福克斯新闻文章。很酷!)
虽然Verify如广告所述完成了这些简单的任务,但很难想象有多少人需要“验证”他们直接从福克斯新闻网站上获取的内容的来源。
在其文档中,Verify建议服务的可能用户可能是一个在社交媒体上看到一篇文章并想弄清楚它是否来自一个假定的来源的人。当我们将Verify应用于这个现实场景时,我们遇到了问题。
我们在X上找到了一篇官方的福克斯新闻帖子,其中包含了我们最初验证的同一篇文章,然后我们将X版本的文章URL上传到Verify中。尽管点击X链接会直接跳转到我们最初检查的同一篇福克斯新闻页面,Verify也能够弹出文章的预览,但这次Verify无法告诉我们这篇文章是否真实。
然后,我们从福克斯新闻帖子中截取了缩略图图像:与我们上次上传的同一张福克斯图片。这次,我们被告知无法验证该图片。原来,如果图像以任何方式被修改,包括轻微裁剪的缩略图或尺寸不完全正确的截图,Verify应用程序会感到困惑。
一些这些技术上的缺陷肯定会被解决,但福克斯还需要应对更复杂的工程问题,如果希望帮助消费者识别AI生成的内容。
即使Verify按照广告宣传的那样运行,它也无法告诉你内容是否是由AI生成的 - 只能告诉你它来自福克斯(或者未来其他发布者使用Verify上传的任何其他来源)。如果目标是帮助消费者区分AI生成的内容和人类内容,这并没有帮助。即使像《体育画报》这样值得信赖的新闻媒体也因使用AI生成的内容而卷入了争议。
然后是用户的冷漠问题。人们往往不太关心他们所阅读的内容是否真实,福克斯肯定意识到了这一点。当人们“希望某事是真的”时,尤其如此。
要想Verify对消费者有用,人们可以想象它需要直接内置到人们用来查看内容的工具中,比如网络浏览器和社交媒体平台。你可以想象一种徽章,类似于社区笔记,显示出已添加到Verify数据库中的内容。
在批评这个Verify的基本版本时感到不公平,因为福克斯在标记它为测试版时非常积极。福克斯也不仅仅关注一般的媒体消费者,就像我们在测试中所做的那样。
福克斯的合作伙伴Polygon在与CoinDesk分享的新闻稿中表示,“Verify在媒体公司和AI平台之间建立了技术桥梁”,并具有额外功能,通过利用智能合约为内容所有者创造“新的商业机会,设定访问内容的程序化条件”。
虽然这里的具体细节有些模糊,但这个想法似乎是Verify将作为一种全球数据库,供AI平台从网络上获取新闻内容 - 为AI平台提供获取真实性的途径,为发布者设置许可限制和付费墙。
要使这种情况发生,Verify可能需要获得关键数量的发布者和AI公司的支持;目前,该数据库仅包括来自福克斯旗下发布者(包括福克斯新闻和福克斯体育)约90,000篇文章。该公司还表示已向其他发布者开放了向Verify数据库添加内容的机会,并向希望基于其技术创建新平台的人开放了其代码。
即使在当前状态下,Verify的许可使用案例似乎是一个不错的主意 - 尤其是考虑到发布者和AI公司目前正在处理棘手的法律问题。
在最近对OpenAI和微软提起的诉讼中,纽约时报声称其内容被未经许可用于训练AI模型。Verify可以为AI公司访问在线内容提供一个标准框架,从而在与AI公司的谈判中给新闻发布者一些优势。
免责声明:本文章仅代表作者个人观点,不代表本平台的立场和观点。本文章仅供信息分享,不构成对任何人的任何投资建议。用户与作者之间的任何争议,与本平台无关。如网页中刊载的文章或图片涉及侵权,请提供相关的权利证明和身份证明发送邮件到support@aicoin.com,本平台相关工作人员将会进行核查。