惟天有汉，故国有明的博客

local ragflow与docker ragflow镜像冲突。- 在Ragflow/docker文件路径下：docker compose up -d # 启动ragflow service。- docker ps # 检查docker ragflow 版本和状态，cpu status: healthy.所以当Docker ragflow镜像和local ragflow version不一样时，就会发生兼容error！Ragflow UI是 docker中 ragflow镜像的可视化。

多任务学习 (Multi-Task Learning, MTL)是一种将多个相关任务学习到一个模型中的方法，以提高模型的泛化能力和学习效率。在CV领域，多任务学习常用于图像分类、目标检测、语义分割等任务的联合学习。多模态学习 (Multi-Modal Learning, MML)是一种将多种类型的数据(e.g. image, text, audio, v ideo等)作为输入的学习方法，以提高模型的表现力和泛化能力。

知识蒸馏 knowledge distillation核心：近似思想。student model -> 近似模拟teacher model。

扩散模型 diffusion model：正向扩散过程 Forward Diffusion Process、反向生成过程 Reverse Generation Process.本质：DDPM, Denoising Diffusion Probabilistic ModelT steps 加噪：没有参数-> 生成一个符合正态分布的纯噪声图像xt，就是噪声noise。T steps 去噪：有参数-> 从噪声noise中恢复一个清晰、有意义的图像。

其中EdgeIndex(edge_index=tensor([[1, 2], [0, 0]]), e_id=tensor([10, 2]), size=(3, 1))是第一层采样得到的bipartite图， EdgeIndex(edge_index=tensor([[2, 3, 0, 3, 0, 4], [0, 0, 1, 1, 2, 2]]), e_id=tensor([2, 8, 6, 9, 4, 0]), size=(5, 3))是第二层采样得到的bipartite图。

目标时将BP loss value限定在20-40之间。，这都会导致model performance很差。在BP时陷入梯度消失或梯度爆炸。避免构建的GNN model。

【代码】GNN tips。

图对比学习 GCL: GCL是一种针对图数据的自监督学习算法。--》对给定的大量无标签数据，图对比算法旨在训练出一个图编辑器，即GNN，用以得到图表示向量。

介绍Graph Representative Learning的 Encoder-Decoder框架。

solution: HAN(Heterogeneous graph attention network)node-level attention: learn the importance between a node and its meta-path based neighborssemantic-level attention: is able to learn the importance of different meta-paths.

GNN基础知识：拉普拉斯矩阵，图傅里叶变换，切比雪夫多项式，attention机制

conceptrepresent each node 表示节点 in a vector format rather than others。Aim：to learn.learn optimal node representation. 节点信息在本论文中不是一个单独的概念，而是概括性的概念。

Essence: 传统的卷积运算无法在graph上进行运算，所有借由傅里叶变换Fourier Transformation实现在graph上的卷积运算，得到graph convolution，退出GCN(graph convolutional network)。

Graph Embedding使用低维稠密向量的形式表示图中的节点，使得在原始图中相似的节点在低维表达空间中也相似。DeepWalk关键基础是Random Walk和word2vec，word2vec。图表示Graph Embedding based on。

tensorflow packages for GNN models

1. Problem: 因为纯数据驱动方法无法胜任复杂的机器学习任务。2. Solution: 将专家知识融入神经网络➡️图神经网络。e.g. 知识图谱和神经网络融合，基于知识的大规模训练(大型知识库) 刘知远：In fact, 从无结构文本中抽取结构化知识形成大规模知识图谱后，这些知识反过来可以融入深度学习模型中，帮助我们更好地实现对自然语言的理解。他认为这是深度学习模型与知识普图不断互相正反馈的过程。如果能构建更大更精确的知识图谱，nlp model能更好更鲁棒。...