Databricks 的 @alighodsi 谈 AI 风险与应用： Ali 对于存在主义风险的争论并没有失眠。 他说，要实现真正的失控场景，需要多个条件同时成立，而目前存在几个完全相反的条件。 每次前沿训练都需要大量资源：电力、GPU、工程师——而且有些尝试会失败，烧掉大量资金。在这种情况逆转之前，他认为自我改进循环不会发生。 他最关注的是网络安全领域，并预测这将带来真正的影响。大多数组织都没有为即将到来的代理能力变化做好准备。从漏洞被公开到被武器化的时间已经从几年缩短到几个小时。 关于应用，他认为大多数公司并不需要更智能的模型。模型已经足够智能了。差距在于它们无法吸收上下文——比如一个员工在公司工作五年通过潜移默化学到的东西。 如果前沿技术今天停止发展，他认为这不会实质性地改变大多数公司从 AI 中获取的价值。 与 a16z 的 Martin Casado 和 Sarah Wang 的对话： 00:00 开场 00:48 为什么 Ali 认为 AI 风险几乎为零 05:05 “节奏”这个词是个错误 10:50 1万个代理和1亿美元能做什么 12:20 什么会改变他对 AI 风险的看法 14:20 更多 GPU，更多失败的可能 18:05 美国对 PlayStation 的出口管制 20:10 预期中的损害为何尚未发生 24:30 公共漏洞在数小时内被武器化 30:15 为什么实验室无法互相评分 37:15 为什么大多数 RSI 实际上不是 RSI 40:05 为什么没人真正需要更智能的模型 41:50 无争议的 AI 用例 47:30 谷歌搜索25年前就解决了这个问题 50:55 现在没人拥有特权知识 55:10 同样的模型，新框架，成本翻倍 58:15 开源：5% 的开销，60% 的代币 1:05:30 90% 的新数据库由代理创建 YouTube: https://youtu.be/GzEtpAKYRvE @databricks @martin_casado @sarahdingwang