人工智能已经在开发人工智能,安索普公司表示——而人类可能在拖慢进程。

CN
Decrypt
关注
1小时前

根据Anthropic的一项新研究,人工智能在编写代码和研究方面变得非常有效,开发新人工智能系统的最大限制可能现在是监督它们的人类。


在其周四发布的报告《当人工智能自我构建时》,Anthropic表示,Claude已经通过编写代码、运行实验和协助研究来帮助构建未来的人工智能系统——该公司表示,这一趋势最终可能导致递归自我改进,即人工智能系统帮助设计自己的继任者。


Anthropic表示,Claude现在创作了超过80%的被合并到其代码库中的代码,并帮助工程师自2024年以来将代码输出大约提高了八倍。


“在2025年2月Claude Code以研究预览形式发布之前,这个数字在个位数之间,”Anthropic写道,并补充说,这种变化也反映在每位工程师的输出量上。“在Anthropic的前四年(2021-2024)中,每位工程师每天合并的代码行数保持稳定,然后在2025年随着Claude开始运行代码而非仅仅建议给工程师复制和粘贴,开始上升。”





Anthropic表示,未来可能以几种方式展开:人工智能进步可能放缓,人类仍然掌控,但人工智能自动化了很多工作,或者人工智能系统最终可能开始改进自己的继任者。


“如果继续向前推进,并且给予足够的计算能力,这一趋势指向一个能够完全自主设计和开发其自身继任者的人工智能系统,”Anthropic写道。“这被称为递归自我改进。我们尚未达到那个阶段,递归自我改进也不是必然的。但它可能比大多数机构预期的更早到来。”


该公司表示,现在还为时已早,无法确定哪种结果最可能,但认为人工智能已经在帮助构建人工智能,并承认代码行数是衡量生产力的一个不完美指标。



“这一切并不能保证递归自我改进即将来临,”Anthropic随后在X上写道。“尚不清楚Claude是否具备研究判断力——选择正确的问题进行研究。”


该报告发布之际,人工智能公司越来越多地将其模型定位为研究协作伙伴,而不是简单的聊天机器人。尽管如此,Anthropic表示,代码输出的增加反映了由越来越强大的人工智能代理推动的软件开发的更广泛加速。


上个月,Anthropic对其旗舰Claude模型进行了升级,推出Opus 4.8,持续推出一系列旨在改善编码、推理和自主任务执行的版本。同时,竞争开发者OpenAI也采取了类似的策略,推出了GPT-5.5GPT-Rosalind模型。


在五月,谷歌宣布了Gemini Spark,一个无需等待提问的个人人工智能代理。它在应用程序之间管理任务,标记需要注意的项目,并在后台完成工作。


这份报告还表明,Anthropic越来越强调能够更自主操作的人工智能系统,因为它准备上市。最近几个月,Anthropic展示了在编码、代理工作流和长期任务执行方面的进展,同时宣传Claude Mythos识别软件漏洞和进行复杂网络安全研究的能力。


“人类在其发展中扮演的角色大幅减少,可能将我们大部分的努力转向对由人工智能系统运行的扩展‘虚拟实验室’的监督、验证和确认,”该公司表示。“我们预计,能够自动化人工智能研究和开发的系统将具备能够转移到其他科学领域的技能,使它们开始改变其他领域。”


免责声明:本文章仅代表作者个人观点,不代表本平台的立场和观点。本文章仅供信息分享,不构成对任何人的任何投资建议。用户与作者之间的任何争议,与本平台无关。如网页中刊载的文章或图片涉及侵权,请提供相关的权利证明和身份证明发送邮件到support@aicoin.com,本平台相关工作人员将会进行核查。

分享至:
APP下载

X

Telegram

Facebook

Reddit

复制链接