CyrilXBT
CyrilXBT|2026年09月26日 07:46
你的AI代理并不是运行在一个模型上。 它运行在五六个模型上,而你可能正在为每一个单独付费。 一个用来嵌入文档 一个用来重新排序搜索结果 一个用来将PDF转换为文本 一个用来检查不安全内容 一个用来真正思考并调用工具 五个API,五笔账单,五个可能出问题的地方。 Superlinked 刚刚开源了 SIE,一个服务器,可以在你的硬件或云端运行所有这些。 85+个模型整合到一个API背后。 我最喜欢的部分是:模型会在你调用时加载,停止使用时从内存中移除,所以你不用为一个没人用的模型支付GPU的“看护费”。 而且它还自带生产环境的完整技术栈。负载均衡、自动扩展到零、Grafana仪表盘、Terraform支持GKE和EKS。 Apache 2.0协议,免费。 不用一次性迁移所有东西。从嵌入开始。这个端点兼容OpenAI,几乎只需要一行代码替换。等稳定后,再迁移下一个模型。 每迁移一个模型,就少一笔账单。 仓库链接在回复里。收藏这个。 关注 @cyrilXBT
+5
曾提及
分享至:

脈絡

熱門快訊

APP下載

X

Telegram

Facebook

Reddit

複製鏈接

熱門閱讀