- 博客(8)
- 收藏
- 关注
原创 从每月数万到几乎忽略不计:我们的AI调用成本如何降至2元/百万Token
该系统的核心在于多渠道整合与智能路由:通过聚合全球主流AI模型的API接口,并内置动态路由算法,系统能够根据实时价格、延迟要求与任务类型,自动选择最优的调用线路。同时,借助请求缓存与结果复用机制,有效避免了重复任务的Token消耗,大幅降低整体调用成本。此外,规模化的资源调度进一步增强了成本优势。在AI应用开发领域,许多团队都曾面临这样的挑战:虽然直接调用各大厂商的官方API(如GPT、Claude、Gemini等)功能强大,但随之而来的高昂成本,尤其在处理长文本或高频生成任务时,常常成为业务发展的隐忧。
2025-09-25 16:15:36
260
1
原创 大规模使用AI API时,除了官方渠道还有哪些成本优化方案?
功能没得说,但每个月看到账单时都肉疼不已,尤其是在处理长文本和大量生成任务时,Token消耗如流水。:对常见的提示词(Prompt)和 completion 进行了缓存处理,对于重复性请求直接返回结果,避免了不必要的Token消耗。:我们接入了几乎所有主流AI厂商的API通道(OpenAI, Google, Anthropic等),并将其标准化。:当我们聚合了大量开发者的需求后,在上游议价能力更强,能拿到更好的商务价格。:被一家绑定,难以灵活地根据任务需求选择性价比最高的模型。
2025-09-02 17:34:16
401
原创 com.alibaba.excel.exception.ExcelGenerateException: Create workbook failure
jenkins打包时dockfile中的基础镜像包不对。
2024-08-21 15:27:25
368
原创 记录第一个python服务docker化
这个错误是因为当时用的paddlepaddle是最新版本的(2.7.x),后来用了2.6.0就可以了。先是用apt-key 去添加公钥被告知apt-key已经废弃,转用另一种方案。2、还需要在dockerfile中添加libgl1-mesa-glx,忘记当时是什么报错了。4、 想把文件上传到pypi时,才知道已经暂停了新用户的注册。5、各种版本不兼容,缺少模块等问题。安装paddle时碰到了很多问题。1、apt-get 缺少了公钥。
2024-03-13 18:17:11
524
原创 python pull from git 需要获取令牌
把pycharm的gitlab插件禁用,重新启动pycharm拉即可。结果需要一个git的令牌,点击生成跳出的页面404。新建python项目时,从VCS拉下代码。
2024-03-12 20:06:15
1068
1
原创 关于python的web容器启动的小问题
FastAPI()或者Flask(__name__) 指定了app变量接收。如果你的启动代码是这样,就需要该代码需要位于main.py模块下,然后。
2024-03-05 18:49:50
596
原创 python:安装pyzbar问题,libzbar-64.dll找不到
看自己python的版本是64位还是其他,如果是64位,选择vcredist_x64.exe下载进行安装。我是删了pyzbar再下的,你可以试试不删能不能成功。需要下载Visual C++ Redistributable Packages for Visual Studio 2013(我下过2008年的,不行)
2024-03-05 14:17:18
3634
1
原创 failed to negotiate cipher with server. Add the server‘s cipher (‘BF-CBC‘) to --data-ciphers (curre
说是 openvpn 库在 2.5.9 中就存在该bug。我降版本就解决该问题,
2024-02-27 10:33:34
1682
2
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅