《恶魔般的》:一款让用户与已故亲人“对话”的人工智能应用面临反对声浪

CN
Decrypt
关注
11小时前

一家由前迪士尼频道演员共同创办的人工智能初创公司推出了一款移动应用,允许用户创建已故亲人的互动数字复制品,这引发了迅速的在线谴责,并重新审视蓬勃发展的“悲伤科技”行业。

2Wai由Calum Worthy创立,他因在2011年至2016年间在迪士尼系列剧《奥斯汀与艾莉》中饰演Dez而闻名,以及制作人Russell Geyser。该应用的iOS测试版于11月11日发布。应用的“HoloAvatar”功能可以从仅三分钟的上传视频、音频和文本输入中生成对话视频头像,支持超过40种语言的实时聊天。

虽然被宣传为遗产保存的工具,但已故重现的能力却占据了头条, 引发了与2013年反乌托邦剧集《黑镜》“再见”一集的比较,在这一集中,一位悲痛的寡妇让她已故丈夫的数字幽灵复活。

Worthy在其拥有120万粉丝的X账号上发布的宣传视频已获得2200万次观看和超过5800条回复。视频中,一位怀孕的女性通过视频通话与她已故母亲的AI复生体交流以获取建议,随后快进到头像为她的新生儿讲睡前故事——并后来为她的成年孙子提供建议,孙子由Worthy扮演。

“如果我们失去的亲人能够成为我们未来的一部分呢?” 视频中问道。“通过2Wai,三分钟可以永恒。”Worthy补充道:“在2Wai,我们正在建立一个人类的活档案,一次一个故事。”

机制与起源

HoloAvatars基于2Wai的专有FedBrain技术运行,该技术在设备上处理交互,以确保隐私并限制响应仅基于用户批准的数据,从而减少AI的“幻觉”。该应用还支持活用户创建头像以进行粉丝互动或辅导——Worthy自己的数字双胞胎分享迪士尼的幕后轶事。

目前在测试版中免费,未来将转为分层订阅模式,定价尚未披露,但根据类似的AI服务,可能在每月10到20美元之间。

该项目源于2023年SAG-AFTRA罢工,演员们抗议未经授权的AI肖像。

“作为一名演员、编剧和制作人工作了20年,我亲身体验到与全球粉丝建立有意义关系的挑战,” Worthy在6月的发布会上表示。“语言障碍、时区和预算限制了真正连接的能力。”

2Wai 在6月获得500万美元的种子前融资,投资者未披露,公司的合作伙伴包括英国电信和IBM等。

伦理与隐私问题

公众反应 overwhelmingly negative,X用户谴责该应用为“噩梦燃料”、“恶魔般的”、“反乌托邦的”,以及对悲伤的剥削性商业化。

一条病毒式回复称其为“我见过的最邪恶、最精神病的事情之一”,认为它“通过模拟失去而不是处理失去,使人类变得精神错乱”。另一条则称其“超越了卑鄙”,坚持认为“视频是用来归档的,而不是AI的猜测”。

法律专家 指出死亡机器人处于法律和伦理的灰色地带,因为它们可以在没有死者明确同意的情况下构建,暴露已故者和悲痛者的深层个人数据,并在数字头像及其伴随数据的所有权上产生模糊性。

隐私法通常保护活人,对死后几乎没有保护措施,这使得幸存的亲人容易受到通过订阅模式和对访谈、语音录音及其他敏感材料的无监管访问进行商业剥削的风险。此外,这些机器人与已故者的互动、学习和偏离记录数据的能力,增加了对已故者遗产的风险,并挑战了社会如何处理哀悼、记忆和有意义的失落结束。

该应用包括已故头像的选择加入要求和家庭批准,但批评者质疑其执行。“你们在利用人类最深层的情感,寻找将其转化为利润的方法,” 一位X用户写道,称创作者为“寄生虫”。

投资者和行业观点

2Wai的融资反映了对AI陪伴的谨慎乐观,但悲伤货币化仍然是一个“禁忌”的小众领域。风险投资公司因伦理陷阱而对类似初创公司保持谨慎;永恒数字资产(Eternal Digital Assets)是一家墓地与AI结合的公司,因高流失率于去年关闭。

2Wai 加入了一个拥挤的悲伤科技领域。 HereAfter AI(成立于2019年)从生前访谈中构建“生命故事头像”,强调同意。StoryFile提供来自录制会话的互动视频,用于纪念活动,如Ed Asner的纪念会;它在2024年申请了第11章破产,欠款450万美元,但正在进行数据安全的重组。

Replika是一项于2017年推出的聊天机器人服务,允许用户通过文本或电话模仿已故者,但在2023年的一次更新后“杀死”了个性化机器人,遭到了反对,且一名比利时男子的2023年自杀与与其的生态焦虑聊天有关。

目前没有联邦法规管理死后数字肖像,但 加利福尼亚州的AB 1836(于2024年9月签署)禁止在未获得遗产同意的情况下,在视听作品中使用已故表演者的声音或视觉的未经授权的AI复制品,罚款最高可达10,000美元或实际损害赔偿。立法者正在考虑将此扩展到非名人,受到选举深度伪造的推动。

2Wai尚未立即回应Decrypt的评论请求。

免责声明:本文章仅代表作者个人观点,不代表本平台的立场和观点。本文章仅供信息分享,不构成对任何人的任何投资建议。用户与作者之间的任何争议,与本平台无关。如网页中刊载的文章或图片涉及侵权,请提供相关的权利证明和身份证明发送邮件到support@aicoin.com,本平台相关工作人员将会进行核查。

分享至:
APP下载

X

Telegram

Facebook

Reddit

复制链接