Certik发布“人工智能代理的防病毒软件”,因技能市场面临隐藏威胁

CN
4 小時前
    • Certik推出了一个安全平台,为代理生态系统提供“杀毒”层。
    • 行业审计显示高风险,但CertiK旨在以90.5%的扫描精度保护市场。
    • Finchip.ai是扩展集成的多个平台之一,旨在未来面向消费者的扫描更新之前。
    • 区块链和人工智能安全公司Certik于5月27日推出了一个新的安全平台,旨在评估第三方人工智能(AI)技能中的风险。该平台被称为“AI代理的杀毒软件”,此次发布是在行业对AI技能市场安全性日益担忧的背景下。

      安全研究人员警告说,许多这些技能未经审查,能够执行系统级操作,可能包含潜在的恶意行为,给AI时代带来了新的软件供应链风险。行业内的安全审计发现了从凭证盗取和数据外流到资金转移操控和基于提示的覆盖攻击等风险。

      尽管存在这些担忧,AI技能市场在代理生态系统成熟的情况下迅速扩大。然而,与传统应用商店不同,绝大多数技能的来源是公开库,几乎没有任何审查。分析师表示,这为攻击者嵌入有害指令、触发未经授权的数据访问或操纵自主执行流程创造了机会。

      在最近的一篇博客中,Certik表示,其技能扫描平台专门设计用于评估在执行过程中出现的风险,包括涉及经济交易或资金调用的场景。该扫描器生成从0到100的数值评分,以及“通过”、“警告”或“失败”的判决和分类结果。根据该公司的说法,该系统在识别安全风险方面的精度达到90.5%。

      “随着AI代理越来越深地融入金融系统、企业工作流程和日常数字互动,第三方技能周围的安全模型变得至关重要,”Certik首席执行官兼联合创始人郭荣辉说。“CertiK技能扫描器旨在在执行之前建立标准化的信任层,帮助用户和平台在敏感数据、资产或系统暴露之前识别潜在风险。”

      Certik表示,AI技能市场可以直接将扫描器集成到发布管道中,在技能上线之前自动审查,向用户显示安全判决。企业可以将该工具作为内部合规和风险管理工作流程的一部分进行部署,而独立开发者可以在发布之前使用该工具自我审计技能。

      该公司表示,未来的更新将允许普通用户在安装之前自行扫描技能。扫描器已经在一些Web3 AI代理基础设施环境中部署。Certik还在与包括Finchip.ai在内的更多平台扩展集成。

      “信任是任何技能经济能够大规模运作的前提,”Finchip.ai的孵化投资者Gary Yang说。“CertiK在技能安全验证方面的工作正是这个生态系统所需要的。这使得Finchip在可编程技能所有权和分发方面的使命值得去构建。”

      此次发布是在Certik扩展至AI-focused安全基础设施之后。早些时候,针对与自主系统和AI驱动的执行环境相关的风险,该公司推出了AI审计员计划。

      郭荣辉表示:“AI应用正朝着越来越自主的执行方向发展,这带来了新的安全和信任挑战。”他说:“我们相信,AI时代的安全基础设施必须主动运作,而非被动响应。”

      免责声明:本文章仅代表作者个人观点,不代表本平台的立场和观点。本文章仅供信息分享,不构成对任何人的任何投资建议。用户与作者之间的任何争议,与本平台无关。如网页中刊载的文章或图片涉及侵权,请提供相关的权利证明和身份证明发送邮件到support@aicoin.com,本平台相关工作人员将会进行核查。

      分享至:
      APP下載

      X

      Telegram

      Facebook

      Reddit

      複製鏈接