端侧大模型
关注
分享
扫一扫
孙奶奶爱吃溜溜梅
CASIA-2025届硕士——距离潜心百年研究MLLM还有99年！励志成为一名优秀的算法工程师。
（拼搏百天我要进大厂版）
展开
-
MoE-LLaVA模型验证中遇到的问题
conv = conv_templates[args.conv_mode].copy() KeyError: 'conv_template'原创 2024-09-03 15:22:37 · 410 阅读 · 0 评论 -
llama.cpp-MiniCPM-V-2.6-IDE调试
最近在看llama.cpp项目里的MiniCPM-V，原来项目中都是终端启动的，不方便魔改。于是根据模型demo文件写了一个调试代码，在debug的过程中，看数据加载过程，学习模型结构。过程中打断点看image tokens,模型层，加载过程等，主要文件modeling_minicpmv.py。新建一个python文件运行，自己改一下路径。原创 2024-08-28 15:35:07 · 522 阅读 · 1 评论 -
Linux：CentOS（lib64/libstdc++.so.6: version `GLIBCXX_3.4.26‘ not found）
首先要cd进你当前报错的路径，打开这个路径，一般是在/usr/下面，然后看一下现在有哪些版本。2、下载/解压libstdc.so_.6.0.26.zip。可以看到目前没有需要的3.4.26，所以报错了。1、查看当前GLIBCXX版本。库版本与系统上的版本不匹配。5、最后看下现在成没成功。3、备份/删除旧版本。原创 2024-08-27 17:42:50 · 904 阅读 · 0 评论