基于标签相关性的多标签学习

TPAMI 2024 | 多标签的互补学习:一种相关性感知校正方法 互补标签学习(CLL)要求注释者为实例给出不相关的标签,而不是相关标签。目前,CLL通过估计转移矩阵在多类数据上展现出了良好的性能。然而,当前的多类CLL技术在多标签数据上表现不佳,因为它们假设每个实例只与一个标签相关联,而每个多标签实例实际上与多个标签相关。作者在理论上展示了多类CLL中估计的转移矩阵在多标签情况下是如何被扭曲的,因为它们忽略了共存的相关标签。此外,理论研究结果表明,在多标签CLL(ML-CLL)中,从标签相关性计算转移矩阵需要多标签数据,但这在ML-CLL中是无法获取的。 阅读详情


✨✨ 欢迎大家来访Srlua的博文(づ ̄3 ̄)づ╭❤~✨✨

🌟🌟 欢迎各位亲爱的读者,感谢你们抽出宝贵的时间来阅读我的文章。

我是Srlua小谢,在这里我会分享我的知识和经验。🎥

希望在这里,我们能一起探索IT世界的奥妙,提升我们的技能。🔮

记得先点赞👍后阅读哦~ 👏👏

📘📚 所属专栏:传知代码论文复现

欢迎访问我的主页:Srlua小谢 获取更多信息和资源。✨✨🌙🌙

​​

​​

​​​

目录

论文概述

论文贡献

算法流程

实验结果

核心代码复现

main.py文件

multi_label_learn.py文件

使用方法

导入本地数据集

构建多标签学习分类模型

运行模型输出测试指标

测试结果

未来可能的改进方向

环境配置


本文所有资源均可在该地址处获取。 

论文概述

在这里插入图片描述​

  • 帕金森病是一种使人虚弱的慢性神经系统疾病。传统中医(TCM)是一种诊断帕金森病的新方法,而用于诊断帕金森病的中医数据集是一个多标签数据集。考虑到帕金森病数据集中的症状(标签)之间总是存在相关性,可以通过利用标签相关性来促进多标签学习过程。目前的多标签分类方法主要尝试从标签对或标签链中挖掘相关性。该文章提出了一种简单且高效的多标签分类框架,称为潜在狄利克雷分布多标签(LDAML),该框架旨在通过使用类别标签的主题模型来学习全局相关性。简而言之,研究人员试图通过主题模型在标签集上获得抽象的“主题”,从而能够挖掘标签之间的全局相关性。大量实验清楚地验证了所提出的方法是一个通用且有效的框架,能够提高大多数多标签算法的性能。基于该框架,研究人员在中医帕金森病数据集上取得了令人满意的实验结果,这可以为该领域的发展提供参考和帮助。

    什么是多标签学习 在这里插入图片描述​

论文贡献

  • 提出了一种通用且高效的多标签分类框架——Latent Dirichlet Allocation Multi-Label (LDAML)。该框架通过利用标签间的关联性进行多标签分类。 该框架可以应用于大多数当前的多标签分类方法,使其性能得到提升。通过使用LDAML框架,可以显著提升简单方法(如Binary Relevance, BR)的性能,甚至超过某些最新的方法,同时保持较低的时间成本。 提出的改进LDAML在某些特殊数据集(如帕金森数据集)上取得了最佳性能。特别是在帕金森数据集上,改进的LDAML框架实现了最优性能,达到了本文的最终目标。该方法能够在未来为医生提供指导和帮助。

算法流程

  • 挖掘“主题“——提取标签相关性

  • 与通过查找标签子集或标签链来利用相关性的传统方法不同,LDAML通过发现标签的抽象“主题”来利用相关性。假设为d维特征向量的输入空间,表示q类标号的输出空间。给定多标签训练集,其中为d维特征向量,为对应的标签集。我们可以将每个实例看作一个文档,每个标签看作文档中的一个单词。直观地说,一定有一些抽象的“主题”,期望特定的标签或多或少地出现在实例中,特别是在包含大量相关标签的多标签数据集中。LDAML算法的主要流程分为两步:(1)从训练集中挖掘标签主题;(2)计算主题的离散分布。

  • 从训练集中挖掘标签主题: 首先,我们将LDA引入到训练集d中,每个实例xi表示文档,每个标签表示第i个实例中的第j个标签。然后利用LDA模型生成过程计算实例-主题 θ 的概率分布矩阵,其中 表示第i个实例注入第j主题的概率。

  • 主题的离散分布: 计算实例-主题分布矩阵后,得到每个实例属于每个主题的概率值。为了确定实例确切属于哪个主题,我们需要用离散值0/1来代替概率值。在这里我们使用的离散化方法如下所示: 在这里插入图片描述​ 在这里插入图片描述​

  • 再次训练拟合M模型——对真实帕金森病例进行筛查 最后,可以再次使用一种多标签学习模型M对扩增后的训练集D’进行拟合,进一步建立输入数据和输出空间的数据联系。然后对扩增后的测试集t’进行多标签分类,获得输入样本是否患有病症以及其他情况的预测结果。上述过程的整体框架流程图如算法2所示。 在这里插入图片描述​

实验结果

  • 文章在四份数据集上用多种多标签学习分类模型分别加上LDAML算法与其原始模型的分类效果进行对比,实验结果如图所示: 在这里插入图片描述​ 在这里插入图片描述​ 在这里插入图片描述​ 在这里插入图片描述​

  • 以上实验结果表明,LDAML能够在性能和时间成本之间取得良好的平衡。目前的大多数方法都可以应用于LDAML。我们可以采用目前最先进的方法作为LDAML在原始基础上取得突破的基本方法(base model)。另一方面,唯一额外的时间代价是计算主题概率分布矩阵的小词空间。因此,LDAML的时间成本接近于其基础方法的时间成本。通过采用BR或CC等较弱的方法作为基本方法,可以在较低的时间成本下提高接近实际状态的性能。这些结果表明,LDAML是一个通用的框架,可以为具有标签相关性的多标签问题提供鲁棒且更优的解决方案。

核心代码复现

  • 由于改论文代码目前尚未开源,因此在本文中我将给出由本人根据论文算法流程一比一复制的复现代码,代码源文件我将放在附件中,其核心逻辑如下:

main.py文件

<span style="background-color:#f8f8f8"><span style="color:#333333"><span style="color:#aa5500">#########################伪代码###########################</span>
<span style="color:#aa5500"># 导入必要的库</span>
Import libraries
​
<span style="color:#aa5500"># 定义函数</span>
Function discretize(theta):
    <span style="color:#aa5500"># 初始化二进制矩阵 YT</span>
    Initialize YT as a zero matrix with the same shape as theta
    For each row i <span style="color:#770088">in</span> theta:
        Find the maximum value <span style="color:#770088">in</span> row i
        For each column j <span style="color:#770088">in</span> row i:
            If the difference between the max value and theta[i][j] is less than <span style="color:#116644">1</span>/K:
                Set YT[i][j] to <span style="color:#116644">1</span>
            Else:
                Set YT[i][j] to <span style="color:#116644">0</span>
    Return YT
​
Function convert_to_one_hot(data):
    <span style="color:#aa5500"># 获取唯一值和类别数</span>
    Find unique values <span style="color:#770088">in</span> data
    Initialize one_hot_encoded as a zero matrix
    For each value <span style="color:#770088">in</span> data:
        Find the index of the value <span style="color:#770088">in</span> unique values
        Set the corresponding position <span style="color:#770088">in</span> one_hot_encoded to <span style="color:#116644">1</span>
    Return one_hot_encoded
​
Function lda(labels, n):
    <span style="color:#aa5500"># 进行潜在狄利克雷分配(LDA)</span>
    Initialize LDA model with n components
    Fit and transform labels using LDA model
    Discretize the transformed data
    Return the discretized data
​
Function metric_cal(test, pred):
    <span style="color:#aa5500"># 计算并打印评估指标</span>
    Calculate accuracy, precision, recall, F1 score, and AUC
    Print the calculated metrics
​
<span style="color:#aa5500"># 主程序</span>
If __name__ <span style="color:#981a1a">==</span> <span style="color:#aa1111">"__main__"</span>:
    <span style="color:#aa5500"># 加载数据</span>
    Load data from Excel file
    <span style="color:#aa5500"># 定义标签列和特征</span>
    Define label_cols and features
    Convert features and labels to NumPy arrays
    <span style="color:#aa5500"># 设置主题数</span>
    Set n to <span style="color:#116644">6</span>
    <span style="color:#aa5500"># 对标签进行LDA</span>
    Call lda <span style="color:#770088">function</span> to <span style="color:#3300aa">get</span> Y_T
    <span style="color:#aa5500"># 将特征与离散化的标签组合</span>
    Concatenate features and Y_T to <span style="color:#3300aa">get</span> XYT
    <span style="color:#aa5500"># 划分训练集和测试集</span>
    Split XYT and labels into X_train, X_test, y_train, y_test
    <span style="color:#aa5500"># 初始化多标签分类器</span>
    Initialize MT_classifier as RankSVM
    <span style="color:#aa5500"># 从训练集和测试集中提取主题</span>
    Extract yt_train and yt_test from X_train and X_test
    Remove last n columns from X_train and X_test
    <span style="color:#aa5500"># 训练多标签分类器</span>
    Fit MT_classifier using X_train and yt_train
    <span style="color:#aa5500"># 预测测试集的主题</span>
    Predict yt_proba and yt_pred using MT_classifier on X_test
    Convert yt_pred to integer
    <span style="color:#aa5500"># 使用预测的主题扩展训练集和测试集</span>
    Concatenate X_train with yt_train to <span style="color:#3300aa">get</span> X_train_aug
    Concatenate X_test with yt_pred to <span style="color:#3300aa">get</span> X_test_aug
    <span style="color:#aa5500"># 初始化并训练二进制相关性分类器</span>
    Initialize base_classifier as MLPClassifier
    Initialize clf as BinaryRelevance with base_classifier
    Fit clf using X_train_aug and y_train
    <span style="color:#aa5500"># 预测测试集的标签</span>
    Predict y_pred and y_score using clf on X_test_aug
    <span style="color:#aa5500"># 计算评估指标</span>
    Calculate hamming loss, ranking loss, coverage error, and average precision
    Print calculated metrics
    <span style="color:#aa5500"># 对每个标签计算并打印评估指标</span>
    For each label i:
        Extract test and pred <span style="color:#770088">for</span> label i
        Call metric_cal <span style="color:#770088">function</span> to calculate and print metrics
        Print separator
    Print final separator</span></span>
  • 在主文件main.py中我复现了LDAML算法的整个流程,并实现了从输入数据到输出评价指标的全过程,在这里默认采用的多标签学习分类起M是RankSVM和二元回归+深度学习。

multi_label_learn.py文件

<span style="background-color:#f8f8f8"><span style="color:#333333"># 定义LIFTClassifier类,继承自BaseEstimator和ClassifierMixin
class LIFTClassifier(BaseEstimator, ClassifierMixin):
    # 初始化函数,接受一个基本分类器作为参数
    def __init__(self, base_classifier=DecisionTreeClassifier()):
        设置base_classifier为传入的参数
        初始化classifiers字典
​
    # 训练模型函数
    def fit(self, X, y):
        获取标签数量
        遍历每个标签
            对每个标签训练一个分类器
            将训练好的分类器存入classifiers字典
        返回self
​
    # 预测函数
    def predict(self, X):
        获取标签数量
        初始化预测结果矩阵
        遍历每个标签
            使用对应的分类器进行预测
            将预测结果存入预测结果矩阵
        返回预测结果矩阵
​
    # 预测概率函数
    def predict_proba(self, X):
        获取标签数量
        初始化概率预测结果矩阵
        遍历每个标签
            使用对应的分类器进行概率预测
            将预测概率结果存入概率预测结果矩阵
        返回概率预测结果矩阵
​
# 定义MLkNN类
class MLkNN:
    # 初始化函数,接受一个k值作为参数
    def __init__(self, k=3):
        设置k值
        初始化k近邻模型
​
    # 训练模型函数
    def fit(self, X, y):
        保存训练数据X和y
        使用X训练k近邻模型
​
    # 预测函数
    def predict(self, X):
        获取样本数量
        初始化预测结果矩阵
​
        遍历每个样本
            获取样本的k+1个最近邻
            排除样本自身
            计算邻居标签的和
            根据标签和判断最终预测结果
        返回预测结果矩阵
​
    # 预测概率函数
    def predict_proba(self, X):
        获取样本数量
        初始化概率预测结果矩阵
​
        遍历每个样本
            获取样本的k+1个最近邻
            排除样本自身
            计算每个标签的概率
        返回概率预测结果矩阵
​
# 定义RankSVM类,继承自BaseEstimator和ClassifierMixin
class RankSVM(BaseEstimator, ClassifierMixin):
    # 初始化函数,接受参数C, kernel, gamma
    def __init__(self, C=1.0, kernel='rbf', gamma='scale'):
        设置C, kernel, gamma值
        初始化模型列表
        初始化多标签二值化器
​
    # 训练模型函数
    def fit(self, X, y):
        使用多标签二值化器转换y
        获取标签数量
​
        遍历每个标签
            将当前标签转换为二值格式
            使用SVM训练二值化后的标签
            将训练好的SVM模型加入模型列表
​
    # 预测函数
    def predict(self, X):
        初始化预测结果矩阵
​
        遍历每个SVM模型
            使用模型进行预测
            将预测结果存入预测结果矩阵
        返回预测结果矩阵
​
    # 预测概率函数
    def predict_proba(self, X):
        初始化概率预测结果矩阵
​
        遍历每个SVM模型
            使用模型进行概率预测
            将预测概率结果存入概率预测结果矩阵
        返回概率预测结果矩阵
​
# 定义MultiLabelDecisionTree类
class MultiLabelDecisionTree:
    # 初始化函数,接受参数max_depth, random_state
    def __init__(self, max_depth=None, random_state=None):
        设置max_depth, random_state值
        初始化标签幂集转换器
        初始化决策树分类器
​
    # 训练模型函数
    def fit(self, X, y):
        使用标签幂集转换器转换y
        使用转换后的y训练决策树分类器
​
    # 预测概率函数
    def predict_proba(self, X):
        使用决策树分类器进行概率预测
        将预测概率结果转换为原始标签格式
        返回概率预测结果
​
    # 预测函数
    def predict(self, X):
        使用决策树分类器进行预测
        将预测结果转换为原始标签格式
        返回预测结果
​
# 定义MLP神经网络类,继承自nn.Module
class MLP(nn.Module):
    # 初始化函数,接受输入大小、隐藏层大小和输出大小作为参数
    def __init__(self, input_size, hidden_size, output_size):
        调用父类的初始化函数
        初始化全连接层1
        初始化ReLU激活函数
        初始化全连接层2
        初始化Sigmoid激活函数
​
    # 前向传播函数
    def forward(self, x):
        通过全连接层1
        通过ReLU激活函数
        通过全连接层2
        通过Sigmoid激活函数
        返回输出
​
# 定义BPMLL类,继承自BaseEstimator和ClassifierMixin
class BPMLL(BaseEstimator, ClassifierMixin):
    # 初始化函数,接受参数input_size, hidden_size, output_size, epochs, lr
    def __init__(self, input_size, hidden_size, output_size, epochs=10, lr=0.0001):
        设置输入大小、隐藏层大小、输出大小、训练轮数、学习率
        初始化MLP模型
        初始化优化器
        初始化损失函数
​
    # 训练模型函数
    def fit(self, X_train, X_val, y_train, y_val):
        将训练数据和验证数据转换为张量
        创建训练数据集和数据加载器
​
        遍历每个训练轮次
            设置模型为训练模式
            遍历训练数据加载器
                清零梯度
                前向传播
                计算损失
                反向传播
                更新参数
​
            设置模型为评估模式
            计算验证损失并打印
​
    # 预测概率函数
    def predict_proba(self, X):
        设置模型为评估模式
        禁用梯度计算
        进行前向传播
        返回预测概率结果
​
    # 预测函数
    def predict(self, X, threshold=0.5):
        获取预测概率结果
        根据阈值判断最终预测结果
        返回预测结果
​
# 定义RandomKLabelsetsClassifier类,继承自BaseEstimator和ClassifierMixin
class RandomKLabelsetsClassifier(BaseEstimator, ClassifierMixin):
    # 初始化函数,接受参数base_classifier, labelset_size, model_count
    def __init__(self, base_classifier=None, labelset_size=3, model_count=10):
        设置基本分类器、标签集大小、模型数量
        初始化RakelD模型
​
    # 训练模型函数
    def fit(self, X, y):
        使用RakelD模型训练数据
        返回self
​
    # 预测函数
    def predict(self, X):
        使用RakelD模型进行预测
        返回预测结果
​
    # 预测概率函数
    def predict_proba(self, X):
        使用RakelD模型进行概率预测
        返回概率预测结果</span></span>

同时我在文件multi_label_learning.py中定义了多种不同的多标签学习分类模型,大家可以自行调用相应的函数来进行实验以验证LDAML算法的有效性,使用方法我会在本文对应的视频中进行讲解。

使用方法

导入本地数据集

调用LDAML算法的方法放在main.py文件中,首先我们需要将文件路径修改成自己所要使用的数据集路径。这里我使用的文件路径为’./测试数据.xlsx’,供大家一键运行熟悉项目。然后大家需要将自己的标签列名称提取变量label_cols中,用于对数据集划分特征集合与标签集合。 在这里插入图片描述​

构建多标签学习分类模型

构建想要的多标签学习分类算法,这里我给大家复现了多种经典的多标签分类器,如LIFT、MlkNN和RankSVM等,并帮大家配置好了参数,大家可以将想要使用的算法对应行的注释删掉即可(MTM T​ 和M都是一样)。 在这里插入图片描述​

运行模型输出测试指标

设置好这些外在参数后,我们就可以运行代码,主文件将自动调用第三方库和multi_label_learn.py文件中的函数来进行训练和测试。下面是我选取的几种测试指标,分别会输出模型对整体的多标签分类性能指标(Hamming loss、Ranking loss、Coverage error和Average precision)和对单一标签的分类指标(Accuracy、Precision、Recall、F1 Score和AUC)。 在这里插入图片描述​

测试结果

下面是在测试数据集上模型的表现: 在这里插入图片描述​ 以上是模型多标签学习分类的性能,Hamming Loss为0.051228070175438595,Ranking Loss为0.016737120579225842,Coverage Error为2.3263157894736843,Average Precision为0.7500066243540565

在这里插入图片描述​

  • 以上是对模型在单一标签下的分类性能测试结果,测试数据集中有十个标签,因此这里会输出十个标签下模型分类的Accuracy、Precision、Recall、F1 Score和AUC,也就是说这样的数据会有十组 在这里插入图片描述​ 我这里把数据列成表这样大家可以更直观的看到,我换用了不同的多标签学习算法结合LDAML,并比较了它们在Accuracy、AUC和F1-score上的表现。在上面的情况上来看,使用BPMLL在整体对单一标签进行分类时效果相比其他算法更好,但也会在某些标签下弱于其他模型。

未来可能的改进方向

  • 这一部分是笔者通过思考感觉可以在目前LDAML的基础上进行改进的方面,也就是我想给大家介绍的LSA算法。

潜在语义分析(Latent Semantic Analysis,LSA)是一种用于分析大规模文本数据的统计方法,旨在发现文本中的潜在语义结构并提取其语义信息。LSA假设文本中存在一些潜在的语义结构,即使在词语表达方式不同的情况下,这些结构也会保持一定的稳定性。其基本思想是将文本数据表示为一个矩阵,其中行代表文档,列代表词语,而矩阵中的元素则可以是词频、TF-IDF权重等。接下来,通过奇异值分解(Singular Value Decomposition,SVD)将这个矩阵分解为三个矩阵的乘积: 其中,A是原始文本矩阵,U是文档-概念矩阵,Σ是奇异值矩阵,是词语-概念矩阵的转置。LSA通过保留最重要的奇异值及其对应的左右奇异向量,将文本数据的维度降低到一个更小的空间,从而发现潜在的语义结构,并提取出文本数据的语义信息。

LSA在面对大规模文本数据时,能够有效地提取出其中的潜在语义信息。并且,LSA能发现文本数据中的主题结构并提取出其中的主题信息。受此启发,我们使用LSA对膝骨关节炎标记集合中的十个标记进行相关性计算并提取主题,从而获得标记集合中的高阶信息。相比之下,LSA比LDA更加灵活和简单。LDA对于大规模数据的处理速度较慢,因为它需要对每个词项和主题进行迭代推断,对主题分布和词项分布的先验参数进行设定,而LSA只需进行奇异值分解,不需要对先验参数进行设置,因此更容易实现和调试。LSA在语义上也更为易懂。LDA通过抽样方法从文档中抽取主题,它的主题在语义上可能难以解释,LSA通过奇异值分解从标签数据中提取主题,可以更直观地解释这些主题的含义,更好地反映标签之间的语义关系。

接下来是不是有可能将LSA融入到目前的框架中,或者直接基于LSA开发一种标记相关性提取的算法都是可以尝试的方向,可以留给大家一起去学习探索!

环境配置

  • python3.8或以上版本

  • 须事先安装第三方库torch、numpy、sklearn、pandas、skmultilearn

  • 可修改变量——主题数n、所用的本地数据集、多标签分类器 在这里插入图片描述​

  • 本文所有资源均可在该地址处获取。

 ​​​

希望对你有帮助!加油!

若您认为本文内容有益,请不吝赐予赞同并订阅,以便持续接收有价值的信息。衷心感谢您的关注和支持!

96、文本聚类中的多标签学习 本文详细探讨了多标签学习在文本聚类中的应用,包括多标签学习的基本概念、面临的挑战以及相关算法。文中重点分析了标签间的相关性建模、文本表示方法、特征选择与提取,并介绍了多种适用于多标签文本聚类的算法,如基于标签空间降维的方法、基于标签关联的算法以及基于图的算法。此外,文章还讨论了实验评估、应用场景及优化方法,提供了多标签聚类的具体操作步骤和相似度测量方法。最后,介绍了模糊C均值、密度聚类、层次聚类以及自组织映射等聚类算法,并探讨了图论方法在多标签聚类中的应用。 阅读详情

相关推荐

经纬度转换为UTM坐标

UTM(通用横向墨卡托投影): 是一种以米为单位的坐标系统,用于地图和GPS导航。将地球划分为60个纵向的区域。每个区域宽6度,从赤道开始往南北两级方向划分。每个区域都有一个特定的字母。

weixin_45626706的博客 7284

【传知代码】基于标签相关性的多标签学习(论文复现)

多标签学习作为处理现实世界复杂数据的重要方法,其有效性在很大程度上依赖于如何处理标签之间的相关性。本文探讨了基于标签相关性的多标签学习的关键技术和方法。我们首先介绍了不同的标签相关性建模方法,包括基于图结构的方法、注意力机制和迁移学习等。通过实例和案例分析,我们展示了这些方法如何提高模型对多标签数据的分类精度和泛化能力。特别是在面对标签稀疏性和噪声数据时,这些方法显示出了明显的优势和适应能力。

ztK63LrD的博客 1922

MyBatis示例

MyBatis示例 基本示例 环境准备 jdk : 1.8.0 MyEclipse MySQL MyBatis-3.4.6.jar 新建JavaWeb Project 命名:mybatis 导入JAR包或添加POM.xml中添加依赖 MyBatis_config.xml &amp;amp;amp;amp;amp;lt;?xml version=&amp;amp;amp;amp;quot;1.0&amp;amp;amp;amp;quot; encoding=&a

走在命运的左岸 721

⌈ 传知代码 ⌋ 基于标签相关性的多标签学习

帕金森病是一种使人虚弱的慢性神经系统疾病。传统中医(TCM)是一种诊断帕金森病的新方法,而用于诊断帕金森病的中医数据集是一个多标签数据集。考虑到帕金森病数据集中的症状(标签)之间总是存在相关性,可以通过利用标签相关性来促进多标签学习过程。目前的多标签分类方法主要尝试从标签对或标签链中挖掘相关性。该文章提出了一种简单且高效的多标签分类框架,称为潜在狄利克雷分布多标签(LDAML),该框架旨在通过使用类别标签的主题模型来学习全局相关性。

Dream_Y.ocean的博客 1162

汽车OBD接口实战:如何用STM32读取CAN总线数据(附完整代码)

本文详细介绍了如何利用STM32微控制器通过汽车OBD接口读取CAN总线数据的完整实战方案。内容涵盖硬件连接(如OBD引脚定义与TJA1050收发器接线)、STM32的CAN外设初始化与滤波器配置,并深入解析OBD-II诊断协议,演示了如何请求和解析发动机转速、车速等关键数据。文末提供了构建稳定数据读取系统的代码框架与错误处理建议,为嵌入式开发者和汽车电子爱好者提供了从零到一的实践指南。

9q8w7e6r5的博客 304

【从零开始玩量化1】AKShare: Python开源财经数据接口库

文章目录量化的第一步:数据AKShare介绍AKShare安装AKShare使用AKTools安装/使用结语 量化的第一步:数据 想要玩量化,第一步要有数据,这个数据可能是历史交易数据、财务数据、宏观数据等等。我们最终要做的,无非就是从数据中分析出有价值的信息,以便用来指导投资策略。 在获取数据的这条道路上,我走了很多弯路,尝试了各种方法:使用Tushare到放弃、自己写网易股票页面的爬虫,自己写申万行业数据的爬虫、自己写同花顺问财的爬虫、使用聚宽的免费数据API等等,直到最终,我发现了AKShare。 A

量化投资助手的博客 5万+

论文阅读笔记——Multi-Label Learning with Global and Local Label Correlation(具有全局和局部标签相关性的多标签学习)

一、低秩矩阵 如果X是一个m行n列的数值矩阵,rank(X)是X的秩,假如rank (X)远小于m和n,则我们称X是低秩矩阵。低秩矩阵每行或每列都可以用其他的行或列线性表出,可见它包含大量的冗余信息。利用这种冗余信息,可以对缺失数据进行恢复,也可以对数据进行特征提取。 二、矩阵填充 已知A的秩rank(A)<<m且rank(A)<<n,那么我们可以通过矩阵各行(列)之间的线性相关将丢失的元素求出。你会问,这种假定我们要恢复的矩阵是低秩的,合理吗?实际上是十分合理的,比如一个用户

qq_35368303的博客 1602

AI 赋能 DBA:如何用 DeepSeek 等大模型简化数据库管理工作

数据库管理员(DBA)的工作涉及 SQL 优化、故障排查、性能监控等复杂任务。而 DeepSeek、ChatGPT 等大模型可以大幅减少重复劳动,提高 DBA 的工作效率。:某电商平台的订单查询 SQL 执行缓慢(平均 5s),DBA 需要优化。:DBA 需要监控 MySQL 的慢查询,但不想手动写脚本。:某金融系统频繁出现数据库死锁,DBA 需要快速定位原因。:大模型可分析 SQL 执行计划,推荐索引优化方案。:用日常语言查询数据库,无需写复杂 SQL。:一键生成监控、备份、数据迁移脚本。

专注于编程、AI、人工智能等多个领域内容研究和分析 566

论文阅读笔记——Multi-Label Learning by Exploiting Label Correlations Locally(利用局部标签相关性进行多标签学习)

目录 摘要 The ML-LOC Approach 1、框架 2、目标函数推导过程 2.1.将全局判别拟合和局部相关灵敏度整合到一个统一的框架中,所以将同时优化和,使下面的函数最小: 2.2.将公式2、3、5代入公式1中 摘要 1、为了编码标签相关性的局部影响,推导了一个LOC代码来增强每个实例的特征表示; 2、将全局判别拟合和局部相关灵敏度整合到一个统一的框架中,并提出了交替求解的优化方法。 The ML-LOC Approach 1、框架 对每个实例Xi引入向量Ci编码表示,

qq_35368303的博客 890

【ESD专题】从原理上分析TVS管PCB Layout的经验法则

我们常常会听到的一些经验法则,按这些经验法则去做,一般也不会有什么问题,但是到底是为什么呢? 没有从原理上分析和证明的时候,往往在Layout之后还要担心实际测试结果怎么样。或是在实际测试出问题后,根本无法进行分析,难道说修改一个版本就好了?那要从哪里修改呢?也无从下手呀。...

一点硬件 1448

Python 爬虫实战:爬取 B 站 UP 主投稿数据,分析更新频率与粉丝互动

摘要:本文基于Python技术实现B站UP主投稿数据的自动化爬取与分析。通过解析B站WBI签名机制和API接口,获取UP主视频的标题、播放量、点赞数等核心数据。采用时间序列分析统计更新频率,结合相关性分析挖掘内容特征与粉丝互动的关联。结果显示编程类视频播放量最高,10-20分钟时长的视频表现最佳,投币数与播放量相关性达0.92。文章详细介绍了接口分析、反爬应对等关键技术,为内容创作者优化策略提供数据支持,同时强调遵守平台规范的爬取原则。

2503_91057718的博客 1538

One-Error多标签分类_深度学习:如何在多标签分类问题中考虑标签间的相关性?

1 多标签问题的简单解决思路利用神经网络,我们可以很轻松处理一个多标签问题。如标题图所示,为前馈神经网络添加适当数量的隐含层,同时在输出层使用某个阈值判断标签分类结果即为一种基础的解决思路。上述是一种简单的从多分类问题拓展到多标签问题的解决思路,这样的思路中,我们可以用输出结果[0.1, 0.9, 0.8, 0.2, 0.85]表示该输入属于标签2、3和5(假设阈值为0.5,标签从1开始计数)。 ...

weixin_39981360的博客 767

PCL RANSAC拟合空间圆【2026最新版】

RANSAC三维点云空间3D圆拟合。博客长期更新,本文最新更新时间为:2026年4月13日。代码在PCL1.15.0中测试通过

点云侠的博客 7455

多标签学习之白话版

让妈妈和小白理解多标签学习.

minfanphd的博客 4637

jdk-8u144-linux-x64.tar.gz.

该资源为搭建Linux系统Java环境用,资源的后缀为tar.gz格式的压缩包

android 蓝牙通讯demo

android 下蓝牙通讯demo,实现了发现蓝牙,使能蓝牙,通过蓝牙发送消息。

论文笔记——多标签学习:GLOCAL

期望具有正相关性的标签所对应的模型输出值越相近,具有负相关性的标签所对应的模型输出值差异越大。考虑到标签的相关性在不同的环境下有不同的结果,所以将训练样本又划分成多个局部样本集(哈哈,找到了一个能横向切割的方法),并使用同样的方式获得局部下的目标表达式。结合了标签矩阵的对称性和拉普拉斯矩阵的特点,将复杂的差值求和换成简单的迹的求和。我们期望存在正相关的标签在同一个样本上的输出值越相似,负相关的标签的预测值差异越大。由于标签的相关性在不同的环境中的表现可能不同,所以将训练样本划分成。所有样例的测试结果用。

Z__XY_的博客 647

Probability and Statistics - 4th edition

Probability and Statistics - 4th edition

机器学习常识 17: 多标签学习

多标签学习从标签个数上来扩展数据模型, 进一步还有标签分布学习.

minfanphd的博客 1579

Camera2Demo

在Camera2 的基础上进行封装,使得Camera2一堆初始化逻辑与Activity分离,降低耦合度,完成预览拍照并保存的操作

机器学习:多标签学习及skmultilearn库

多标签(multi-label)学习方法解决的是一个实例同时具有多个标签的学习问题。本文总结几个经典的多标签学习方法及度量指标,并基于sklearn的给出具体实现过程。

Ten_yn的博客 7569

多标签学习之讲座版 (内部讨论, 未完待续)

摘要: 多标签学习是一种常见的, 而并非小众的机器学习问题.

minfanphd的博客 743

多标签文本分类研究进展概述

     基于标签语义注意力的多标签文本分类 一、研究背景 什么是多标签文本分类?    现实生活中很多对象是同时属于多个类别,具有多个标签。 传统的多标签文本分类与该论文的对比         传统的多标签文本分类算法将标签视为没有语义信息的符号,然 而,在许多情况下,文本的标签是具有特定语义的,标签的语义信息和文档的内容信息是有对应关系的

yueyue129a的博客 5898

论文笔记: 多标签学习 GLOCAL

摘要: 分享对论文的理解. 原文见 Yue Zhu, James T. Kwok, Zhi-Hua Zhou, Multi-Label Learning with Global and Local Label Correlation, IEEE Transactions on Knowledge and Data Engineering, 2018 (30), 1081–1094.

minfanphd的博客 1311

论文学习记录随笔 多标签之LSML

原文: Huang, J., Qin, F., Zheng, X., Cheng, Z.-K., Yuan, Z.-X., Zhang, W.-G., & Huang, Q.-M. (2019). Improving multi-label classification with missing labels by learning label-specific features. Information Sciences, 492, 124–146. 本文主要是对这个论文进行初步阅读的感受和观点....

ALBlack的博客 4326

多标签学习求解策略及方法

多标签学习求解策略及方法

MLer 2385

多标签分类_多标签分类文献阅读(5)

联合排名SVM和二进制相关性以及强大的低等级学习技术,可实现多标签分类(Joint Ranking SVM and Binary Relevance with robust Low-rank learning for multi-label classification)摘要多标签分类研究每个示例同时属于多个标签的任务。作为一种代表性方法,等级支持向量机(Rank-SVM)旨在使等级损失...

weixin_39733146的博客 530
上一篇: 检测图像P图痕迹(论文复现)
下一篇: 短期电力负荷(论文复现)
Srlua小谢
Srlua小谢 优质创作者: 编程框架技术领域 优质创作者: 编程框架技术领域
博客等级 码龄4年 8963粉丝 332原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值