CyrilXBT|2026年09月26日 07:46
你的AI代理并不是运行在一个模型上。
它运行在五六个模型上,而你可能正在为每一个单独付费。
一个用来嵌入文档
一个用来重新排序搜索结果
一个用来将PDF转换为文本
一个用来检查不安全内容
一个用来真正思考并调用工具
五个API,五笔账单,五个可能出问题的地方。
Superlinked 刚刚开源了 SIE,一个服务器,可以在你的硬件或云端运行所有这些。
85+个模型整合到一个API背后。
我最喜欢的部分是:模型会在你调用时加载,停止使用时从内存中移除,所以你不用为一个没人用的模型支付GPU的“看护费”。
而且它还自带生产环境的完整技术栈。负载均衡、自动扩展到零、Grafana仪表盘、Terraform支持GKE和EKS。
Apache 2.0协议,免费。
不用一次性迁移所有东西。从嵌入开始。这个端点兼容OpenAI,几乎只需要一行代码替换。等稳定后,再迁移下一个模型。
每迁移一个模型,就少一笔账单。
仓库链接在回复里。收藏这个。
关注 @cyrilXBT
分享至:
脉络
热门快讯
APP下载
X
Telegram
复制链接