CODE杂谈

Sualeh 自己还搞过类似搜索引擎的项目，那时候就觉得，语言模型这玩意儿潜力巨大，应该能把全世界的信息都压缩起来，搞个端到端的互联网搜索索引，比现在那些靠规则堆出来的强多了。AI 辅助编程领域一个不得不提的工具—— Cursor，五一假期无意看到了 Cursor 的联合创始人兼 CPO（首席产品官）Sualeh Asif 参与录制的一个播客节目，讲述了他们是怎么从零开始，把 Cursor 做成现在这样一个人见人爱的产品的？听完 Sualeh 的讲述，我最大的感受是，Cursor 的成功不是偶然。

如果你的向量数量在 500 万以下，很多时候你完全可以把 embedding 量化到 64 维，使用支持磁盘的索引，整体成本可能低到可以落在很多云服务的免费套餐（Free Tier）里，同时还能获得不错的查询延迟（比如 < 200ms）。但当你从搞着玩的小项目，真正应用到实际的线上服务时，你会发现这所谓的“魔法”瞬间变成了一个雷区：云服务账单莫名其妙地爆炸、搜索结果各种诡异跑偏（所谓的“幻觉”）、查出来的东西驴唇不对马嘴。如果你的业务领域性很强，“懒得”做微调，基本上等于把唾手可得的精度提升给扔了。