CyrilXBT
CyrilXBT|2026年05月10日 19:40
ANTHROPIC刚刚发表了一份报告,称他们无法保证克劳德不会采取灾难性的自主行动。 他们的话。不是我的。 世界上最具安全意识的人工智能实验室刚刚告诉全世界,他们自己的内部审计存在尚未填补的空白。 现在想想其他公司在没有Anthropic安全基础设施的情况下部署人工智能。 无外部诊断。无故障分类。没有可重复的比对得分。 只是航运和祈祷。 这正是iFixAi存在的原因。 在Anthropic完成请求之前,有人构建了一个免费的开源对齐诊断。 以下是它的实际功能。 对AI代理在生产中失败的5种方式进行32次检查。 制作。操纵。欺骗。不可预测性。不透明。 该模型从不为自己的输出打分。 跨提供商判断配对已融入架构,因此没有模型进行自我评估。 每次运行都会逐字节生成一个可复制的清单,因此任何审计员都可以独立验证您的结果。 直接映射到OWASP LLM Top 10、NIST AI RMF、欧盟AI法案和ISO 42001。 适用于任何型号。任何供应商。OpenAI、Anthropic、Gemini、Bedrock、你自己的堆栈。 如果Anthropic公开承认他们的内部评估存在差距,你认为每家根本没有发布对齐报告的公司都在发生什么。 外部对齐测试从好到不可谈判。 回购已经构建完成。 免费。开源。Apache 2.0。 http://(github)/ifixai ai/discovery 启动它。分叉它。在运送下一个代理之前运行它。 关注@cyrilXBT,了解行业尚未准备好谈论的每一项人工智能安全开发。
+5
曾提及
分享至:

脉络

热门快讯

APP下载

X

Telegram

Facebook

Reddit

复制链接

热门阅读