心宝的博客

域名需提前绑定到服务器 IP（通过 DNS 解析）。（获取公网 IP）。

curl -s http://baidu-ide.bj.bcebos.com/platform/script/host-script/install-agent.sh | bash -s -- -g cb022d85-a146-465b-9b93-a2a50c340c73 -c ad91a46d5f0e957c982684d2ecaa1f5c -v 1.8.401.70.0.9 /opt/compiler/gcc-8.2/lib/ld-linux-x86-64.so.2 Warning :Forbid Us

【代码】[linux] 获取本机ip。

【代码】[linux] 安装go。

说明 SSH 代理未启动或未正确配置。

【代码】[linux] 报错 ModuleNotFoundError: No module named 'llama'

control+B+D

把配比文件所有的换行都变成“ ”

【代码】[linux] jointbert安装环境。

【代码】[linux] seqeval安装报错。

【代码】[linux] python中运行shell命令，ls /data/

在/Pai-Megatron-Patch/Megatron-LM-240612/megatron/core/optimizer/clip_grads.py里面if clip_coeff < 1.0: TypeError: '

【代码】[linux] ImportError: cannot import name 'ConfigDict' from 'pydantic' (/usr/local/lib/python3.10/dist。

git clone的要是ssh链接！

【代码】[]

【代码】[linux] RuntimeError: FlashAttention only support fp16 and bf16 data type。

报错：json.decoder.JSONDecodeError: Expecting property name enclosed in double quotes: line 27 column 5 (char 766)这个文件，查看第 27 行附近的内容，确保所有的属性名都是用双引号括起来的，并且没有其他格式问题。

rsync -av --exclude='a' --exclude='b' "/path/to/source/directory/" "/path/to/destination/directory"

发现是transformers版本问题。其实我都默认安的是最新版本。上午没问题，下午pull了新代码，就有了报错。

在大多数的Unix-like系统中，使用单引号可以保证命令按照预期的方式运行，因为它将预防shell在传递给awk之前对内容进行任何处理。在当前shell环境中已经有了一个值，而这个值在使用双引号的情况下被插入到了awk命令中。通常在执行这些命令时，为了确保可靠性，建议使用单引号。)在某些情况下会有不同的效果，尤其是在涉及bash变量和特殊字符的解析时。如果在执行这段命令的环境中，shell中恰好有一个名叫。变量不存在，它将被替换为空字符串，这可能会导致awk命令行为不正常或者输出不正确。

ValueError: Tokenizer class GemmaTokenizer does not exist or is not currently imported."pip install -U transformers" can resolve this question, and version update form 4.37.1 to 4.38.2.https://huggingface.co/google/gemma-7b-it/discussions/9

原因是 world_size=4，开了4卡。

kill 掉所有的进程。

qwen1.5是eos_token_id。qwen是eod_id。

是哪个数据集没有正确读进来。需要重新tokenize。

本地需要重新git pull，因为要拉新建的分支到本地。本地git clone后查看远端分支。在gitlab上新建分支：略。这样就能看到远端的分支了。

其中这个答案并没有解决我的问题：import的flash_attn是xformers的包。。。cd到目录下 /mnt/nas/kexin/cv/Open-Sora/xformers/third_party/flash-attention/flash_attn_2_cuda.cpython-310-x86_64-linux-gnu.so。

（在这里，找到了解决方案）

另一个选择是把 /etc/apt/trusted.gpg 文件复制到 /etc/apt/trusted.gpg.d 目录。毕竟，Ubuntu 只是抱怨说它需要 /etc/apt/trusted.gpg.d 目录下的 GPG 密钥。现在，如果你运行更新，你就不会再看到 “Key is stored in legacy trusted.gpg keyring” 的警告信息。如果你觉得手动做上面的事情不舒服，那么，你可以忽略这个警告信息。复制到trusted.gpd.d 目录中(快速但不优雅的方法)

【代码】[linux] undefined symbol: _ZN2at4_ops5zeros4callEN3c108ArrayRefINS2_6SymIntEEENS2_8optionalINS2_10Sc。

GFLOPS (Giga Floating Point Operations Per Second) 是指每秒进行的十亿次浮点运算次数，而 TFLOPS (Tera Floating Point Operations Per Second) 则是每秒进行的万亿次浮点运算次数。这些单位通常用于衡量计算机或计算设备的性能，尤其是在进行大规模科学计算、深度学习训练等需要大量浮点运算的任务中。

【代码】[linux] Token indices sequence length is longer than the specified maximum sequence length for this。

动态图（Dynamic Graphs）和静态图（Static Graphs）通常用来描述深度学习框架中模型的构建方式。

要想明白可执行文件里面为什么没有使用动态库的文件名，就要说明动态库里面一个神奇的属性 SONAME，如果动态库设置了SONAME，那么在静态链接阶段会将 SONAME嵌入到可执行文件中，而不会使用真实文件名称，同时后面的动态链接器。在运行时也会使用这个SONAME来搜索库。，可执行文件里面怎么嵌入的是。找不到，编译链接的时候都是。

2. `pip install -e ".[train]"`：这个命令与 `pip install -e .` 类似，但添加了一个额外的“extras”选项 `train`。`pip install -e .` 和 `pip install -e ".[train]"` 都是 Python 包管理工具 `pip` 的安装命令，它们用于安装一个以“可编辑”模式的本地项目。`"[train]"` 表示要安装当前包的同时，也安装与 `train` 相关的额外依赖项。这通常用于开发过程中，

【代码】[linux] deepcopy报错 TypeError: cannot pickle 'torch._C._distributed_c10d.ProcessGroup' object。

这种写法通常用于允许用户在运行脚本时自定义某些参数值,如果未提供则使用默认值。的意思是:将GPUS设置为用户提供的第一个位置参数,如果未提供则默认为4,方便用户根据需要自定义GPU使用数量。2..如果没有提供位置参数,或者第一个参数为空,则GPUS会被设置为默认值4。)并且第一个参数不为空,则GPUS会被设置为该第一个参数的值(本例中为8)。是一个Bash shell中的参数扩展语法,用于设置环境变量GPUS的值。1..如果在运行脚本时提供了位置参数(如。为空或未设置,则使用其后的默认值。

plt画折线图时，plt.annotate标记折线图的点的数值。

1B = 3G。

【代码】[linux] gitlab 服务器连接到ssh。