handsomeman20的专栏

LoRAPrune设计了一种基于LoRA的剪枝准则，利用LoRA的权重和梯度而不是预训练权重的梯度来估计重要性，并将其集成到迭代剪枝过程中，有效地移除冗余的通道和头。​基于单个权重的重要性对模型中的权重进行剪枝，将绝对值较小的权重置为零，这些被置零的权重在后续的计算中可以被忽略，从而减少计算量。大模型剪枝是指对已经训练好的大型神经网络模型进行结构化或非结构化的简化操作，去除模型中对最终输出结果影响较小的部分（如神经元连接、权重等），从而减小模型的规模和计算复杂度，同时尽量保持模型原有的性能。

Recently,I am researching some technologies about the similarity of two

推荐系统遇上深度学推荐系统遇上深度学习系列：推荐系统遇上深度学习(一)--FM模型理论和实践推荐系统遇上深度学习(二)--FFM模型理论和实践推荐系统遇上深度学习(三)--DeepFM模型理论和实践推荐系统遇上深度学习(四)--多值离散特征的embedding解决方案推荐系统遇上深度学习(五)--Deep&Cross Network模型理论和实践推荐系统遇上深度...

概览：1.doc2vec 训练句子向量2.word2vec训练词向量3.kmeans/dbscan训练句子聚类4.tfidf寻找关键信息。5.LDA主题文本聚类组合使用：doc2vec+tfidf+kmeans先从doc2vec谈起来： 1.文本分词 jieba/hanlp 2.建立分词和下标id##words_list =['aaa',...