【论文笔记】Recommendations for Datasets for Source Code Summarization

最新推荐文章于 2025-07-20 07:30:00 发布
最新推荐文章于 2025-07-20 07:30:00 发布
阅读量419 收藏 3
点赞数
CC 4.0 BY-SA版权
分类专栏： 论文笔记 文章标签： 机器学习 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/animalkun/article/details/108014096
本文探讨源代码总结任务中数据集的重要性和挑战，分析了按方法和项目分割数据集的效果，以及移除自动生成代码的影响。研究发现，按项目分割可避免数据泄露，提高模型泛化能力，而移除自动生成代码有助于减少实验偏差。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

Recommendations for Datasets for Source Code Summarization

文章目录

摘要

源代码总结任务受限于数据集：缺乏社区标准的数据集使得研究结果混乱而不能重复。

1 INTRODUCTION

绝大多数代码总结技术都是对最初设计用于解决NLP问题的技术的改进。

但缺乏像NLP那样庞大精良的数据集；缺乏标准数据集使结果难以解释和复制。

本文数据集组成：2.1M的java方法以及对应java方法的一句话描述。

2 RELATED WORK

  1. heuristic/template-based
  2. data-driven
  3. AI-based

3 DATASET PREPARATION

基于LeClair 的数据集。从51M方法中，去除方法长度>100 、注释长度 > 13 和 < 3 的内容，最后得到21M的数据集。

3.1 RESEARCH QUESTIONS

数据集量化研究：

  1. 数据集通过方法分割和项目分割之间的影响
  2. 去除自动生成的 JAVA 方法的影响

RQ1 What is the effect of splitting by method versus splitting by project?
RQ2 What is the effect of removing automatically generated Java methods?

RQ1

单纯地把Method按比例分为训练、测试、验证集，可能导致同一个项目的代码同时存在于测试集和训练集中，来自同一项目的方法中可能使用了类似的词汇表和代码模式，还有重载方法重复出现的问题。

因此，本文按照项目分割数据集：把JAVA项目分成 训练/验证/测试组。

RQ2

自动生成的JAVA方法存在大多数JAVA项目中，造成不同项目之间这部分方法的极大相似性。(Shimonaka et al., 2016) 提出通过搜索不区分大小写的“generated by”过滤自动生成方法。（A neural model for generating

最低0.47元/天 解锁文章

200万优质内容无限畅学
《A Transformer-based Approach for Source Code Summarization 》论文笔记
weixin_43646592的博客
06-20 450
论文地址：点击进入 论文Github地址：点击进入 论文主要内容：  利用transformer模型来进行代码摘要生成，通过对代码token之间的成对关系建模以捕获其长期依赖来学习代码表示。实验部分和其他一些baselines作了对比，验证了模型达到了最优性能。并通过实验证明了，使用相对位置表示对源代码token之间的成对关系进行建模，相对于使用绝对位置表示的学习代码token的序列信息，可以实现重大改进。并在transformer中整合了复制注意力机制，其能够从源代码复制稀有标记（如：函数名臣，变量名称）
文章翻译|EDITSUM: A Retrieve-and-Edit Framework for Source Code Summarization
qq_40631568的博客
11-07 442
为了缓解这个问题，本文提出了一种新的检索和编辑方法，名为EditSum，用于代码总结。具体来说，EditSum首先从预先定义的语料库中检索一个类似的代码片段，并将其摘要作为原型摘要来学习模式。然后，EditSum自动编辑原型，将原型中的模式与输入代码的语义信息相结合。我们的动机是，检索到的原型为后期生成提供了一个很好的起点，因为类似代码片段的摘要往往具有相同的模式。后期编辑过程进一步重用了原型中的模式化词语，并根据输入代码的语义信息生成了关键词。
8.Automatic Source Code Summarization with Extended Tree-LSTM-2019IJCNN会议
jing___yu的博客
06-26 712
论文笔记 | code summarization（代码摘要生成）系列
Firmiana1220的博客
01-19 7606
代码摘要生成论文列表1. Recommendations for Datasets for Source Code Summarization2. Abridging Source Code3. Summarizing Source Code Using a Neural Attention Model4. Code Generation as a Dual Task of Code Summarization5. A Transformer-based Approach for Source Code S
论文笔记：Retrieval-Augmented Generation forAI-Generated Content: A Survey
qq_40206371的博客
03-27 2430
北大202402的RAG综述。
AAAI 2022 论文列表
热门推荐
gbstack08的专栏
02-15 2万+
链接及代码之后会更新 GitHub链接：https://github.com/gbstack/AAAI-2022-papers Scaled ReLU Matters for Training Vision Transformers Pichao Wang, Xue Wang, Hao Luo, Jingkai Zhou, Zhipeng Zhou, Fan Wang, Hao Li, Rong Jin Search Strategies for Topological Network Optimizat
有关聊天机器人的近两年的优秀论文和开源程序
TotalRecall的博客
09-14 7322
本文属于研究聊天机器人，前沿学术内容；附带大量 GitHub 程序，先收藏！ 示例程序 Practical Neural Networks for NLP intro: EMNLP 2016 github: https://github.com/clab/dynet_tutorial_examples Structured Neural Networks for NLP: From Idea to Code slides: https://github.com/neubig/yrsnlp-2016/b
2018顶会论文汇编
SIGAI_优快云的博客
12-27 7089
其它机器学习、深度学习算法的全面系统讲解可以阅读《机器学习-原理、算法与应用》，清华大学出版社，雷明著，由SIGAI公众号作者倾力打造。 书的购买链接 书的勘误，优化，源代码资源 CVPR 2018 大会时间：6月18日~22日 会议地点：盐湖城，UTAH 国际计算机视觉与模式识别会议（Conference on Computer Vision and Pattern Recogniti...
Neural Code Summrization: 2016-2021年 论文解读 (一)
Enoch的博客
12-10 1729
文章目录What is code summarizationExampleOverview of neural code summarization methodSequence model (序列模型)Codenn: 第一篇使用Neural network来做code summarizationDeepcom: Structure-based 遍历的方式来展平AST（抽象语法树）插曲 what is AST---------------------------插曲结束-------------------
funcom:Funcom源代码汇总工具-公开发布
05-21
Funcom Funcom源代码汇总工具-公开发布 该存储库包含Funcom的公开发布代码，Funcom是一种用于源代码汇总的工具。 代码摘要是自动生成源代码的自然语言描述的任务。 与这项工作有关的出版物包括： LeClair，A.，McMillan，C。，“对源代码摘要的数据集的建议”，Proc。 计算语言学协会（NAACL'19）北美分会2019年年会论文集，2019年6月2日至7日，美国明尼阿波利斯短期研究论文足迹。 LeClair，A.，Jiang，S.，McMillan，C。，“用于产生程序子例程的自然语言摘要的神经模型”，Proc.Natl.Acad.Sci.USA，87，3593-2，1999。 第41届ACE / IEEE软件工程国际会议（ICSE'19）的报告，2019年5月25日至31日，加拿大蒙特利尔。 示例输出 从ast-attendgru模型输出的随机采样
ICSE 2018 论文
weixin_30532973的博客
12-19 823
仅简单分析自己感兴趣的论文。 9.6 Million Links in Source Code Comments: Purpose, Evolution, and Decay 分析了 source code comments中的link问题。发现其存在decay, insufficient versioning, and lack of bidirectional traceabilit...
2021_IJCAI_Graph Learning based Recommender Systems: A Review—(IJCAI, 2021)
weixin_46645827的博客
12-29 1710
(十二) Graph Learning based Recommender Systems: A Review—(IJCAI, 2021)-- Shoujin Wang, Liang Hu, Yan Wang, Xiangnan He, Quan Z. Sheng, Mehmet A. Orgun, Longbing Cao, Francesco Ricci and Philip S. Yu7 论文下载地址：https://arxiv.org/abs/2105.06339 发表期刊：IJCAI Publis
【论文笔记】Improving Automatic Source Code Summarization via Deep Reinforcement Learning
animalkun的博客
07-25 846
Improving Automatic Source Code Summarization via Deep Reinforcement Learning 1 本文背景 软件维护占据软件开发生命周期很大一部分，提供代码执行任务的描述对于软件维护来说是必须的，然而注释代码仍然是一项劳动密集型的任务，使得真实的软件项目很少具备充分的代码文档以减少未来的维护成本。 本文作者提出：一个好的注释论至少应该具备以下特征: a)正确性：正确地阐明代码的意图。b)流利：流畅的自然语言，易于维护者阅读和理解。c)一致性：遵循
A Transformer-based Approach for Source code Summarization 翻译
weixin_35977125的博客
12-10 1330
A Transformer-based Approach for Source Code Summarization 全文翻译 本文最佳阅读方式：读完一段中文内容快速阅读对应的英文部分 欢迎关注我的公众号：NLP小讲堂，扫码第一时间获取更多最新的文章。 本文来自ACL 2020 Accepted Paper. https://arxiv.org/abs/2005.00653 https://github.com/wasiahmad/NeuralCodeSum 基于Transformer的源代码摘要生成 摘要
Improving automatic source code summarization via deep reinforcement learning笔记
想写就写咯
01-06 1038
文章目录前言OverviewModel ArchitectureHYBRID REPRESENTATION OF CODEHybrid AttentionText GenerationCritic NetworkModel Training 前言 这篇论文利用了AST的信息，结合高级RL进行代码描述的生成。果然这个工作不是没人填啊，但事物总有两面性，虽然一方面没机会做首个工作了，但另一方面，可以利...
《机器学习数学基础》补充资料：标准差与标准化
CS创新实验室
07-16 1031
摘要 标准差是衡量数据离散程度的重要指标，通过计算数据与平均值的偏离程度来反映数据分布的集中或分散情况。为避免正负抵消问题，采用离均差平方的平均（方差）再开方得到标准差。数据标准化是将原始数据转换为均值为0、标准差1的Z分数，便于不同量纲数据的比较。例如，小明身高标准化得分为3，表示高于平均值3个标准差。标准化后的数据具有无单位特性，适用于跨数据集比较。门萨俱乐部要求IQ130（高于均值2个标准差）的入会标准即基于此原理。这些统计概念在《机器学习数学基础》中有详细阐述。
【机器学习|学习笔记】详解支持向量机（Support Vector Machine，SVM）为何要引入核函数？为何对缺失数据敏感？
最新发布
2401_89898861的博客
07-20 1183
【机器学习|学习笔记】详解支持向量机（Support Vector Machine，SVM）为何要引入核函数？为何对缺失数据敏感？
【机器学习【6】】数据理解：数据导入、数据审查与数据可视化方法论
hiliang521的博客
07-16 1270
本文系统介绍了机器学习数据准备的关键技术和方法。首先详细对比了三种数据导入方式，指出Pandas在类型推断、缺失值处理等方面的优势。然后提出"六维数据画像"方法，从数据结构、质量、目标变量等维度进行全面分析。最后通过五种可视化技术（直方图、箱线图等）揭示数据分布特征和异常模式，为后续算法选择提供依据。文章强调数据理解应遵循"从宏观到微观"的认知规律，并展示了如何将数据特征映射到合适的算法选择，构建了完整的数据分析决策链条。
推荐系统---AUC计算
weixin_44880995的博客
07-18 173
auc计算
因果推荐论文笔记
03-15
### 关于因果推荐系统的概述 因果推荐系统是一种结合因果推理和机器学习技术的新型推荐算法框架。它通过分析用户行为数据中的潜在因果关系，提升推荐系统的准确性、公平性和可解释性[^1]。传统的推荐系统主要依赖关联规则或协同过滤来预测用户的偏好，而这些方法可能忽略了隐藏的混杂因素（confounding factors），从而导致偏差估计。相比之下，因果推荐系统试图揭示用户行为背后的真正原因。 #### 因果推荐系统的核心概念 因果推荐系统的关键在于利用因果图（Causal Graphs）和反事实推理（Counterfactual Reasoning）。具体来说： - **因果图**：描述变量之间的因果关系网络，帮助识别哪些特征直接影响用户的行为。 - **反事实推理**：模拟如果某个条件发生变化，则结果会如何改变的情景。这种能力使得推荐系统可以评估不同干预措施的效果。 这种方法不仅提高了推荐质量，还增强了对决策过程的理解[^2]。 ```python import numpy as np from sklearn.linear_model import LinearRegression def estimate_causal_effect(X, T, Y): """ 使用线性回归简单估算处理效应 (T) 对目标变量 (Y) 的影响， 假设 X 是协变量矩阵。 参数: X: 协变量矩阵 T: 处理变量向量 Y: 结果变量向量 返回: estimated_effect: 估计的平均处理效应 """ model = LinearRegression() combined_X = np.column_stack((X, T)) model.fit(combined_X, Y) coefficients = model.coef_ estimated_effect = coefficients[-1] return estimated_effect ``` 上述代码片段展示了一个简单的因果效应估计示例，其中 `T` 表示某种干预措施（如是否观看某部电影），`Y` 则表示观察到的结果（如评分）。此函数可用于初步探索因果关系。 --- ### 推荐的相关资源 对于希望深入研究因果推荐系统的读者，以下是几类重要资源： 1. **学术论文** - “Causality-based Recommendation Systems” 提供了全面综述，讨论了如何将因果推断融入推荐引擎的设计中。 - 另一篇名为“Deep Causal Inference for Personalized Recommendations”的文章探讨了深度学习与因果建模相结合的方法及其应用案例。 2. **在线课程与教程** - Coursera 上开设的一门叫作《Machine Learning and Causal Inference》的课程专门讲解两者交叉领域的内容。 - 黄海广教授在中国大学MOOC平台发布的《机器学习》系列也涉及部分基础知识。 3. **实践指南和技术博客** - Medium 和 Towards Data Science 中有许多开发者分享的经验贴，比如介绍如何用 Python 实现基本因果模型的文章。 - Kaggle 社区也有不少公开竞赛项目围绕这一主题展开实验设计。 4. **工具库支持** - DoWhy 库是由微软开发的一个开源软件包，专为构建因果假设测试提供便利接口。 - EconML 同样值得尝试，尤其适用于经济学背景下的复杂场景分析。 --- ###
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值