- 博客(6)
- 收藏
- 关注
RSS订阅原创 使用Fiddler监控和优化机器学习模型部署
Fiddler致力于企业级生成式和预测系统的运维管理，提供统一的平台来帮助各个团队更好地监控、解释、分析和优化机器学习模型。它不仅支持模型的实时监控和异常检测，还提供了详尽的统计分析工具，确保你的模型在生产环境中的稳定性。我个人一直在用一些API服务来简化这些复杂的操作，推荐大家也可以试试像Fiddler这样的平台，为你的机器学习项目增加一层保障。今天的技术分享就到这里，希望对大家有帮助。开发过程中遇到问题也可以在评论区交流~
2024-12-28 05:25:43
402
原创 使用 SQLAlchemy 和 LangChain 存储与处理聊天历史
SQL（Structured Query Language）是一个专用于管理关系型数据库系统中的数据的编程语言。SQLAlchemy 则是个开源的 SQL 工具包和对象关系映射（ORM）套件，它提供了一个简洁的接口来连接 Python 和数据库。这里，我们将使用 LangChain 提供的类来将聊天历史存储到数据库中。这个功能目前支持多种数据库，但如果你要使用 SQLite 之外的其他数据库，记得安装对应的数据库驱动哦。使用。
2024-12-28 04:52:10
306
原创 使用 Upstash Redis 作为字节存储的实战指南
首先，Redis 是一款流行的内存数据存储，这里我们使用的是 Upstash 提供的云端 Redis 服务。是一种ByteStore实现，用于在 Upstash 托管的 Redis 实例中存储数据。在使用云端 Redis 存储字节数据时显得尤为简单方便，尤其是在分布式环境下更能发挥其优势。需要注意的是，在生产环境中使用时，做好权限管理和安全防护。今天的技术分享就到这里，希望对大家有帮助。开发过程中遇到问题也可以在评论区交流~—END—
2024-12-28 03:44:59
318
原创 使用Kay API进行高效数据检索及Roku案例解析
Kay API通过将全球最大的数据库转化为高质量的嵌入向量(Vectors)，使AI代理能够实时获取上下文信息。它支持最新版的模型，检索速度快，并且最棒的是无需搭建任何基础设施。对于开发者来说，这简直是一个福音。在使用过程中，我个人发现Kay API在处理大规模数据集时非常有效。我们可以通过这样的工具快速获取所需的信息，为决策提供坚实的数据支持。对于Roku这样的案例，Kay API提供的上下文信息精准而详尽，极大地方便了我们的分析工作。今天的技术分享就到这里，希望对大家有帮助。
2024-12-27 23:28:45
164
原创 玩转 Oracle AI Vector Search：从连接到高级搜索
老铁们，今天我们来聊聊 Oracle AI Vector Search，这个神器是为AI工作负载设计的，可以让你基于语义来查询数据，而不是传统的关键词匹配。它最大的魅力在于能够将非结构化数据的语义搜索与业务数据的关系搜索结合到一个系统里。这波操作可以说是相当丝滑，不仅强大，还省去了在多个系统间数据碎片化的麻烦。在这套系统里，你可以把向量与 Oracle 数据库的一些强大功能结合，比如分区支持、RAC扩展性、Exadata智能扫描，等等。
2024-12-27 21:05:40
703
原创 利用 Google Vertex AI Feature Store 实现低延迟向量检索
Vertex AI 的 Feature Store 提供了一种流畅的方式来管理各类 ML 特征数据，并支持通过 BigQuery 来做低延时的数据检索。特征存储分为两种主要范式：BigQuery Vector Store 和 Feature Store Online Store。通过这两者，你可以根据需求进行快速原型设计或是支持生产级别的低延时服务。如果需要批处理性能，可以从切换到，操作简单并支持高效的批量使用场景。今天的技术分享就到这里，希望对大家有帮助。开发过程中遇到问题也可以在评论区交流~
2024-12-27 20:16:47
246
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人