CyrilXBT|2026年05月10日 19:40
ANTHROPIC刚刚发表了一份报告,称他们无法保证克劳德不会采取灾难性的自主行动。
他们的话。不是我的。
世界上最具安全意识的人工智能实验室刚刚告诉全世界,他们自己的内部审计存在尚未填补的空白。
现在想想其他公司在没有Anthropic安全基础设施的情况下部署人工智能。
无外部诊断。无故障分类。没有可重复的比对得分。
只是航运和祈祷。
这正是iFixAi存在的原因。
在Anthropic完成请求之前,有人构建了一个免费的开源对齐诊断。
以下是它的实际功能。
对AI代理在生产中失败的5种方式进行32次检查。
制作。操纵。欺骗。不可预测性。不透明。
该模型从不为自己的输出打分。
跨提供商判断配对已融入架构,因此没有模型进行自我评估。
每次运行都会逐字节生成一个可复制的清单,因此任何审计员都可以独立验证您的结果。
直接映射到OWASP LLM Top 10、NIST AI RMF、欧盟AI法案和ISO 42001。
适用于任何型号。任何供应商。OpenAI、Anthropic、Gemini、Bedrock、你自己的堆栈。
如果Anthropic公开承认他们的内部评估存在差距,你认为每家根本没有发布对齐报告的公司都在发生什么。
外部对齐测试从好到不可谈判。
回购已经构建完成。
免费。开源。Apache 2.0。
http://(github)/ifixai ai/discovery
启动它。分叉它。在运送下一个代理之前运行它。
关注@cyrilXBT,了解行业尚未准备好谈论的每一项人工智能安全开发。
分享至:
脉络
热门快讯
APP下载
X
Telegram
复制链接