- 博客(5)
- 收藏
- 关注
RSS订阅原创 使用 Upstash Ratelimit Callback 实现请求和令牌限速
Upstash Ratelimit 的工作原理特别简单，其核心是每次调用limit方法时，都会向 Upstash Redis 发起一个 HTTP 请求。这时就会检查和更新用户的剩余请求或令牌数。说白了，这就是个令牌桶算法，只是通过 Redis 做了分布式的实现。老铁们，使用 Upstash Ratelimit 可以让你的工作链在处理请求时更加灵活和可控。我个人一直在用 Upstash 的这些服务，它提供了一站式的限速解决方案，非常可靠。今天的技术分享就到这里，希望对大家有帮助。
2024-12-28 05:43:56
385
原创 通过AstraDB构建高效的Key-Value存储系统
我们日常开发中，Key-Value存储是一个特别常见的需求。无论是做缓存、会话管理还是保存配置，Key-Value存储都发挥着重要作用。而AstraDB则提供了一种简单而强大的方式来满足这些需求，并且支持向量存储，简直是AI应用中的好帮手。我个人一直在使用AstraDB来存储和管理应用中的向量数据。不得不说，这波操作确实提升了应用的稳定性和扩展性。有关更详细的功能和配置，大家可以查阅官方API文档:。今天的技术分享就到这里，希望对大家有帮助。开发过程中遇到问题也可以在评论区交流~—END—
2024-12-28 03:29:46
289
原创 利用Cassandra Database Toolkit打造高效AI数据代理
Apache Cassandra®是一款广泛使用的数据库，专注于存储事务性应用数据。随着大语言模型（Large Language Models）的功能和工具接口的引入，为现有数据在生成式AI应用中创造了一些令人兴奋的用例。为此，Cassandra Database Toolkit应运而生，它帮助AI工程师高效地将代理集成到Cassandra数据中。通过Cassandra Database Toolkit，我们可以将Cassandra数据库与生成式AI紧密结合，实现高效的数据查询和代理操作。
2024-12-28 00:49:42
395
原创 NeuralDB：CPU友好的可微调检索引擎
NeuralDB 是 ThirdAI 开发的检索引擎，它最大的亮点就是在 CPU 上也能高效运行，并且支持微调。对于那些不想依赖GPU的项目来说，这波操作可以说是相当丝滑。无论你是从头开始还是从检查点加载模型，NeuralDB 都能提供灵活的初始化方式。为了更好地使用 NeuralDB，你还可以参考其概念指南和操作指南。说到这，我个人一直在用 NeuralDB 提供的数据处理能力，稳定又高效。今天的技术分享就到这里，希望对大家有帮助。开发过程中遇到问题也可以在评论区交流~—END—
2024-12-28 00:15:22
470
原创 使用NotionDBLoader从Notion数据库加载内容的技术指南
在语言模型中，编码器和解码器都是由一个个的 Transformer 组件拼接在一起形成的。openAI 的 GPT 大模型的发展历程。提供先进的推理，复杂的指令，更多的创造力。
2024-12-27 16:21:39
480
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人