快速增长的开源人工智能助手正在测试自动化和安全性的极限

CN
Decrypt
關注
4 小時前

一个开源的AI助手在最近几周在开发者社区中迅速崛起,自1月发布以来,已经获得了超过10,200个GitHub星标和8,900个Discord成员。

Clawdbot承诺提供Siri从未实现的功能:一个真正能做事情的AI。CreatorBuddy的首席执行官Alex Finn给他的Clawdbot,Henry,发短信让它预定餐厅。

“当OpenTable的预定没有成功时,它利用其ElevenLabs技能打电话给餐厅并完成了预定,”Finn在X上写道。“AGI来了,99%的人对此毫无头绪。”

Clawdbot因在设备上保持用户上下文、开源以及以异常快速的速度发布而脱颖而出,开发者Dan Peguine在X上写道。

它还可以在主要的消息平台上工作,并提供持久的记忆和主动的后台任务,远远超出了典型个人助手的功能,他补充道。此外,普通用户安装起来也相当简单。

Clawdbot使用模型上下文协议将AI模型(如Claude或GPT)与现实世界的行动连接,而无需人工干预。

该系统可以在几乎任何硬件上本地运行,并通过您已经使用的消息应用连接——WhatsApp、Telegram、Discord、Slack、Signal、iMessage。它可以执行终端命令、控制浏览器、管理文件和拨打电话。

从投资建议到OnlyFans账户管理,只要您有创造力去构建、支付代币的资源,以及承担事情出错后果的勇气,似乎一切皆有可能。

不受限制的访问

尽管如此,Clawdbot在安全社区中引发了担忧,因为有人发现了一个问题。

AI研究员Luis Catacora进行了Shodan扫描,发现了一个问题:“Clawdbot网关目前暴露在外,没有任何认证(它们只是连接到您的IP并处于其中)……这意味着shell访问、浏览器自动化、API密钥。所有这些都对某人完全开放,能够完全控制您的设备。”

实际上,强大的系统放在缺乏经验的手中,导致许多机器暴露。

解决方案相对简单:将网关绑定从公共设置更改为本地设置,然后重启。这个步骤并不直观,而默认配置使许多用户容易受到远程攻击。

推荐的应对措施是立即限制网络访问,添加适当的认证和加密,轮换可能被泄露的密钥,并实施速率限制、日志记录和警报,以降低滥用的风险。

系统的高代币使用量让用户感到惊讶,促使开发者建议使用低成本模型或本地部署来管理消耗。

Federico Viticci在MacStories的第一周消耗了1.8亿个代币。在Hacker News上,一位开发者报告称在两天内花费了300美元用于他们认为的“基本任务”。

Clawdbot是PSPDFKit(现称Nutrient)创始人Peter Steinberger的作品,他从退休中复出,构建了他所称的“24/7个人助手”。

目前,考虑到成本,建议谨慎对待您要求助手执行的任务。

项目文档包括安全指南和检查错误配置的诊断命令。社区以大约每天30个拉取请求的速度快速发布修复,但安全防护措施的采用仍落后于安装率。

免责声明:本文章仅代表作者个人观点,不代表本平台的立场和观点。本文章仅供信息分享,不构成对任何人的任何投资建议。用户与作者之间的任何争议,与本平台无关。如网页中刊载的文章或图片涉及侵权,请提供相关的权利证明和身份证明发送邮件到support@aicoin.com,本平台相关工作人员将会进行核查。

分享至:
APP下載

X

Telegram

Facebook

Reddit

複製鏈接