milvus
milvus 运维经验
IT_Octopus
我仍在山麓,却仰望山巅。
展开
专栏收录文章
- 默认排序
- 最新发布
- 最早发布
- 最多阅读
- 最少阅读
-
Milvus IllegalAccessError:com.google.protobuf.LazyStringArrayList.emptyList()
milvus-sdk-java和 protobuf-java 版本冲突问题,AI 确实给你了明确的问题出现的原因,但是让你切换的版本是错的,不要过度依赖AI,这是我依旧坚持写博客的原因,所见即所得。之前的版本是3.21.7 导致的报错,Milvus 内部调用了 LazyStringArrayList.emptyList() 方法。但是3.21.7没有,所以改成3.24.0 修复。maven 树如下(Milvus -JAVA的依赖很混乱,大家要格外注意)原创 2025-12-19 18:32:28 · 176 阅读 · 0 评论 -
milvus 修改角色限制 unable to create role because the number of roles has reached the limit
https://github.com/milvus-io/milvus/issues/27356 坚定了修改这个配置是成功的,否则我在修改的时候会怀疑人生,因为一直修改不成功。刚开始改的时候maxUserNum 修改直接是成功,所以一直觉得是我们修改的问题,但是实际上,官网好像默认就是100个用户。经过长时间的尝试,重启各个协调器,还有proxy 节点都是失败的。原创 2025-11-12 19:28:54 · 277 阅读 · 0 评论 -
milvus helm k8s开启权限管理,attu管理
eg:角色菜单是通用的,但是其权限是 库-用户-角色 ,即每个库都有该用户新的角色权限。举个例子:登录不同的游戏,换不同的区,一切重新开始。该configMap 添加 ,然后重启milvus 集群可生效。选择一个库,使用用户-角色管理,配置用户和角色对应的权限。将会生成上面的配置,然后按照官网的配置流程就行。或者直接在value.yaml 中添加该配置。开启后登录attu 会爆权限不足的配置。建立三个databases;原创 2024-08-14 16:24:13 · 724 阅读 · 0 评论 -
milvus使用milvus migration工具迁移数据
下载模板文件yaml,放入milvus_migration/configs 下,一般命名:migration.yaml。github地址:https://github.com/zilliztech/milvus-migration。如果目标 Milvus 中没有与源集合对应的集合,milvus-migration工具会自动创建该集合。看的出来就是shell脚本for 循环执行就行了,但是我的表很多哎,这样一点点写很烦,改一下吧。目标的milvus 官方称之为:目标target milvus。原创 2024-08-29 20:10:22 · 2129 阅读 · 0 评论 -
milvus helm k8s开启监控
文章写的很清晰 ,我这边做一下个人补充,初版可能只是配置,具体的grafana 监控报表后期补一下。values.yaml 配置 enabled: true 改为true。生产的可执行yaml (可直接手动部署)原创 2024-08-14 16:32:37 · 546 阅读 · 0 评论 -
milvus资源限制 benchmarker压测 qps优化
总结:官网提供的资源配置,应该是以数据为主的,但是如果对milvus 有性能要求,应该提高queryNode 的资源。还是保持质疑,刚好dev 环境没有资源,不能限制pulsar ,发现性能还是很差,所有排除pulsar问题。1.dev 环境 对接不同的配置最大的qps 如下(dev的机器内存很小)2.于是认为当前的性能是匹配的,然后加上资源限制,配置。原创 2024-08-27 19:23:05 · 1045 阅读 · 0 评论 -
向量数据量milvus k8s helm 对接外部安装部署流程
1.如果你想要直接部署,不对接外部组件,直接使用在线部署,当前要注意上面的问题:使用魔法先把需要的镜像下载下来!官方部署网址:https://milvus.io/docs/install_cluster-helm.md。前情概要:历经了太多的坑,从简单的到困难的,该文章主要是为大家尽可能的展现安装部署流程中遇见的坑!k8s可执行文件milvus_manifest.yaml。原创 2024-07-15 17:16:30 · 1344 阅读 · 3 评论 -
milvus多个Querynode,资源消耗都打在一个节点上
当代理收到数据加载请求时,会将请求发送给查询协调器,查询协调器决定如何将分片分配到不同的查询节点。1.数据量太小,且数据是动态新增的,且没有60s间隔,没有达到segement分区的限制,没有从growingSegement态,所以都落在其中的一个segement。3.调整flush的阈值,我觉得在小数据量的情况下操作有点杀鸡用牛刀,完全可以使用命令塞入数据的指定多个副本,做负载…2.在数据量小的情况下,少querynode ,每个querynode 多资源。其中大致的内容都看懂了,比较困难的是。原创 2024-08-28 16:29:16 · 1030 阅读 · 0 评论 -
解决milvus migration 迁移数据出现数据丢失问题
分析下来是因为buuferSize 设置的是500条数据,但是迁移工具对一次迁移的数据是是有大小限制的,如果500条数据的总大小大于4194304,就会导致数据迁移失败。注意:这个在2.3.x 迁移到2.4.5 的时候没有出现这个问题,问题出现在2.4.5迁移到2.4.13-hotfix的时候出现的。问题是数据在批量迁移的过程中,这个错误会被忽略掉。解决方案:bufferSize 修改的条数少一点。在迁移数据的时候发现数据丢失。原创 2024-10-28 14:20:34 · 735 阅读 · 0 评论 -
pulsar cli 命令行命令
【代码】pulsar cli 命令行命令。原创 2024-07-12 17:47:15 · 567 阅读 · 0 评论 -
milvus - VectorDBBench benchmaker 性能测试工具使用经验
条件: --m 8 --ef-construction 64 --ef-search 64 --k 64。条件:–m 8 --ef-construction 64 --ef-search 10 --k 10。1.ivf_flat 性能验证。2.hnsw 性能验证。2.hnsw 性能验证。原创 2024-07-30 16:22:50 · 1422 阅读 · 0 评论
分享