Evaluating the Application of Large Language Models to Generate Feedback in Programming Education

最新推荐文章于 2025-11-24 18:29:32 发布
最新推荐文章于 2025-11-24 18:29:32 发布
阅读量174 收藏
点赞数
CC 4.0 BY-SA版权
分类专栏： LLM Daily LLM for education 文章标签： 语言模型 人工智能 自然语言处理
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/c_cpp_csharp/article/details/139294502
研究发现，使用GPT-4的编程教育应用程序能有效识别并解决代码错误，但存在错误建议和幻觉问题。学生对反馈的评价积极，但数据可能受规避行为影响。未来模型如GPT-5将增强模型能力，带来更多教学可能性。

本文是LLM系列文章，针对《Evaluating the Application of Large Language Models to Generate Feedback in Programming Education》的翻译。

评估大型语言模型在程序设计教育中产生反馈的应用

摘要

这项研究调查了大型语言模型，特别是GPT-4的应用，以加强编程教育。这项研究概述了一个web应用程序的设计，该应用程序使用GPT-4提供编程任务的反馈，而不泄露解决方案。为这项研究开发了一个用于处理编程任务的网络应用程序，并在一个学期内对51名学生进行了评估。结果表明，GPT-4生成的大多数反馈都有效地解决了代码错误。然而，错误建议和幻觉问题带来的挑战表明需要进一步改进。

1 引言

2 相关工作

3 评估

4 结果

5 讨论

6 结论

对Tutor Kai的评估表明，GPT-4生成的反馈已经识别并提到了代码中的大多数问题。同时，相关研究在过去遇到的反馈中出现代码的问题几乎已经完全解决。总的来说，学生们对反馈的评价相对积极，从1到7分，平均为5.05分。发现的一个问题是，当学生被要求评估所有反馈时，他们可能会寻求绕过这一过程的方法，从而可能扭曲数据。
此外，研究表明，错误的单元测试与正确的学生解决方案相结合会导致幻觉问题。在这种情况下，会解决学生解决方案中没有的错误。为了避免这种情况，必须小心确保GPT-4不会收到相互矛盾的信息。

7 展望

未来，还将根据不同类型的反馈对已经收集的数据进行评估。将制定和评估自动化这一过程的框架。基于此，可以更快地迭代模型和提示。
预计

了解本专栏 订阅专栏 解锁全文 超级会员免费看
LLMs：《PaLM: Scaling Language Modeling with Pathways》翻译与解读
头部AI社区如有邀博主AI主题演讲请私信—心比天高，仗剑走天涯，保持热爱，奔赴向梦想！低调，专注，谦虚，自律，反思，成长，还算比较正能量的博主，公益免费传播…内心特别想在AI界做出一些可以推进历史进程影响力的技术(兴趣使然，有点小情怀，也有点使命感呀
06-27 3万+
​ LLMs：《PaLM: Scaling Language Modeling with Pathways》翻译与解读 目录 《PaLM: Scaling Language Modeling with Pathways》翻译与解读 Abstract 1、Introduction介绍 2、Model Architecture模型架构 3、Training Dataset训练数据集 4、Training Infrastructure训练基础设施 5、Trai
LLMs：《A Survey on Evaluation of Large Language Models大型语言模型评估综述》理解智能本质(具备推理能力)、AI评估的重要性(识别当前算法的局限性+设
头部AI社区如有邀博主AI主题演讲请私信—心比天高，仗剑走天涯，保持热爱，奔赴向梦想！低调，专注，谦虚，自律，反思，成长，还算比较正能量的博主，公益免费传播…内心特别想在AI界做出一些可以推进历史进程影响力的技术(兴趣使然，有点小情怀，也有点使命感呀
07-30 5395
​ LLMs：《A Survey on Evaluation of Large Language Models大型语言模型评估综述》翻译与解读 LLMs：大型语言模型评估研究综述—理解智能本质(具备推理能力)、AI评估的重要性(识别当前算法的局限性+设计更强大模型的关键工具)、评估LLMs的四大意义、三维度(What+Where+How)综述LLMs评估、LLMs大语言模型的三大关键(Transformer+RLHF+提示工程)、评估LLMs任务六大类(NLURG+REBT+SS+NS+MA+Agent
TYPES OF TESTING
emilyzhang98的专栏
02-24 1716
TYPES OF TESTING 1.  Black Box Testing. 21.1 FUNCTIONAL TESTING.. 21.2 STRESS TESTING.. 21.3 LOAD TESTING.. 31.4 AD-HOC TESTING.. 31.5 EXPLORATORY TESTING.. 31.6 USABILITY TESTING..
FinGPT: Open-Source Financial Large Language Models FinGPT：开源金融大型语言模型
cdxxsq的博客
04-03 2704
大型语言模型（LLMs）已展现出在多个领域革新自然语言处理任务的潜力，因此在金融领域引起了极大的兴趣。访问高质量金融数据是金融LLMs（FinLLMs）面临的首个挑战。尽管像BloombergGPT这样的专有模型利用了其独特的数据积累优势，这种特权访问促使人们寻求一个开源的替代方案，以民主化互联网规模的金融数据。在本文中，我们介绍了一个针对金融部门的开源大型语言模型，FinGPT。与专有模型不同，FinGPT采取了以数据为中心的方法，为研究人员和实践者提供了可访问和透明的资源，以开发他们的FinLLMs。
Praise for OpenGL ® ES ™ 3.0 Programming Guide
yangjia_cheng的博客
03-27 4688
www.it-ebooks.infoPraise for OpenGL ® ES ™ 3.0 Programming Guide,Second Edition“As a graphics technologist and intense OpenGL ES developer, Ican honestly say that if you buy only one book on OpenGL ES...
ACL 2017 accepted papers
AI小白入门的博客
10-31 1万+
Accepted Long PapersBiomedicalEnriching Complex Networks with Word Embeddings for Detecting Mild Cognitive Impairment from Speech Transcripts Authors: Leandro Santos, Edilson Anselmo Corrêa Júnior, Os
BI市场象限（转载）
wujiandao的专栏
03-24 8610
Magic Quadrant for Business Intelligence Platforms 6 February 2012 ID:G00225500 Analyst(s): John Hagerty, Rita L. Sallam, James Richardson VIEW SUMMARY In 2011, business
【NLP】ACL-2019 录用论文
zkq_1986的博客
09-04 2万+
LONG PAPERS (MAIN CONFERENCE) SphereRE: Distinguishing Lexical Relations with Hyperspherical Relation EmbeddingsChengyu Wang, XIAOFENG HE and Aoying Zhou Learning from Dialogue after Deployment: Fee...
Tools for Decision Analysis（Analysis of Risky Decisions）
05-20 6364
  Tools for Decision Analysis:Analysis of Risky Decisions  If you will begin with certainties, you shall end in doubts, but if you will content to begin with doubts, you shall end in almos
【AI 顶会】NIPS2019接收论文完整列表
热门推荐
TomRen
09-11 3万+
NeruIPS2019接受的论文列表已放出
基于学习的人工智能（1）为什么学习？
致力于大数据+AI 的应用创新。
11-24 213
学习是人类最重要的认知活动之一，贯穿我们的一生。出生后，我们无时无刻不在学习：从父母那里学说话，自己尝试走路，从小伙伴那里学会折纸飞机，从老师那里学到语文、数学等各种知识。研究人员始终将光源和风扇放在同一侧，经由学习，玉米幼苗逐渐学会了“有风的地方就会有光”的规律。之后，研究人员移去光源，并改变风扇方向，玉米幼苗依然按照所学知识，向风扇方向生长。1959 年，美国计算机学家亚瑟·塞缪尔设计了一款可以自我学习的跳棋程序，并将这一新方法称为“机器学习”，从而开启了机器自我学习的道路。
中国计算机学会（CCF）推荐学术会议-A（人工智能）：ACL 2026
iaast的博客
11-24 337
大会官网：https://2026.aclweb.org/录用率：20.3%（1699/8360，2025年）时间地点：2026年7月2日-加州·美国。截稿时间：2026年1月5日。CCF推荐：A（人工智能）
2025企业微信AI落地新趋势：微盛AI·企微管家破解内外增长难题
最新发布
weisheng00的博客
11-24 566
2025年企业微信AI落地的三大关键趋势：微盛AI·企微管家通过智能客服、精准营销和内部协作三大场景，帮助企业实现200%的客服效率提升、90%的报修响应提速和50%的员工效能增长。作为企业微信生态最大ISV服务商，微盛依托"AI+SCRM"双引擎，已服务160家500强企业，提供合规AI聊天Agent、生态闭环整合及私有化部署方案，有效解决数据孤岛问题，90%客户在3个月内实现AI能力全员覆盖。
RAG 的诞生：为了让 AI 不再“乱编”
weixin_44876263的博客
11-24 218
RAG全称，中文为“检索增强生成”。其核心思想是：在生成答案时，不仅依赖大模型内部的训练知识，还能够实时访问外部知识库或文档，从而生成更加准确和可靠的内容。就像一个学生回答问题，不仅依靠自己记忆，还会去图书馆查资料，然后结合记忆和查到的资料回答问题。你问模型：“请告诉我最新的新能源补贴政策。纯模型可能只靠训练记忆，回答的是过时或模糊的信息。RAG 模型会先去查最新政策文件，再结合训练知识生成答案，因此更准确。检索资料：先找到相关文档或信息。结合生成：把找到的资料和问题一起输入模型，让模型生成答案。
基于华为开发者空间实现花卉识别
优快云高校俱乐部官方博客
11-21 1795
基于华为开发者空间实现花卉识别
人工智能在医疗行业的革命性应用：从诊断到个性化治疗
2501_94114442的博客
11-21 486
人工智能（AI）技术近年来已经渗透到各个行业，其中，医疗行业无疑是受益最大之一。从疾病的早期诊断到个性化治疗方案的制定，AI正在加速医学领域的变革。通过机器学习、深度学习、自然语言处理等技术，AI不仅能够处理和分析大量的医疗数据，还能够帮助医生做出更加精准的决策，提升患者的治疗效果，并优化整个医疗体系的运作效率。本文将探讨人工智能在医疗行业的应用，分析其在不同医疗领域的具体作用，并展望AI如何进一步推动医疗健康行业的发展。
【NullSwap】NullSwap: Proactive Identity Cloaking Against Deepfake
人生不是轨道，是旷野。希望每天都有好心情。
11-23 235
由于生成模型的进步，被动检测高质量Deepfake图像的性能瓶颈，主动扰动提供了一种有前途的方法，通过将信号插入良性图像来禁用Deepfake操作。【生成模型的发展，使得生成高质量伪图越来越难被检测】然而，现有的主动扰动方法在以下几个方面仍然不能令人满意：【当前主动扰动存在的问题】1）由于直接元素添加而导致的视觉退化;2）对交换操纵的有效性有限;3）不可避免地依赖于白盒和灰盒设置，以在训练期间涉及生成模型。我们分析了深度伪造swap技术的本质，并论证了保护源身份而非目标图像的必要性。
【字节跳动 AI 原生 IDE TRAE 】
youngerwang的博客
11-22 698
字节跳动推出的AI原生IDE TRAE是国内首款协作级AI开发工具，采用"交互层-智能层-协议层-生态层"四层架构，支持SOLO智能自主开发模式和多模态交互。核心功能包括：1）SOLO模式支持需求分析、工具调度和全流程自动化开发；2）双模式交互系统兼顾精细控制和快速原型开发；3）多模态交互支持语音、图像和代码片段输入；4）开放的智能体生态系统。TRAE深度融合大模型能力，在前后端开发中展现出高效代码生成和自动化能力，并通过MCP协议实现安全工具调用。产品迭代迅速，216天发布63个版本，
EAGLE-2：通过动态草稿树加速语言模型推理
11-24 51
现代 Large Language Models（LLMs）的推理过程既昂贵又耗时，而 speculative sampling 已被证明是一种有效的解决方案。大多数 speculative sampling 方法（例如 EAGLE）使用静态的 draft tree，并默认 draft token 的接受率仅依赖于其位置。有趣的是，我们发现 draft token 的接受率也依赖于上下文。本文在 EAGLE 的基础上提出了，该方法引入了一种新的技术用于 draft 建模。
Language models enable zero-shot prediction of the effects of mutations on protein function
08-07
Language models have shown remarkable capabilities in predicting the effects of mutations on protein function without prior examples, a task known as zero-shot prediction. This ability is rooted in the way these models are trained and the vast amount of data they process. During training, language models learn to understand the context and relationships between different parts of a sequence. In the case of proteins, this means learning the relationships between amino acids and how changes in these sequences can affect the overall structure and function of the protein. By analyzing the co-occurrence patterns of amino acids across many protein sequences, language models can infer the importance of specific residues for maintaining the protein's function[^1]. When it comes to making predictions about mutations, language models can use the learned information to assess the likelihood that a particular mutation will disrupt the protein's function. This is done by evaluating the impact of the mutation on the local and global properties of the protein, such as its stability, folding, and interactions with other molecules. The model can then provide a score or probability indicating the effect of the mutation on the protein's function[^1]. One of the key advantages of using language models for zero-shot prediction is their ability to generalize from the data they have been trained on. Even without specific examples of certain mutations, the models can make educated guesses based on the general principles they have learned about protein sequences and structures. This makes them particularly useful for identifying potential disease-causing mutations or for guiding the design of new proteins with desired functions[^1]. For instance, a study demonstrated that a language model could predict the effects of mutations on the binding affinity of a protein to its ligand. The model was able to identify which mutations would lead to a decrease in binding affinity, even when those mutations had not been observed in the training data. This kind of prediction is crucial for understanding the molecular basis of genetic diseases and for developing targeted therapies[^1]. Here is a simplified example of how a language model might be used to predict the effects of mutations on protein function: ```python def predict_mutation_effect(model, wild_type_sequence, mutant_sequence): # Encode the sequences into a format suitable for the model encoded_wild_type = encode_sequence(wild_type_sequence) encoded_mutant = encode_sequence(mutant_sequence) # Get the model's predictions for both sequences wild_type_prediction = model.predict(encoded_wild_type) mutant_prediction = model.predict(encoded_mutant) # Calculate the difference in predictions to estimate the effect of the mutation effect = mutant_prediction - wild_type_prediction return effect ``` In this example, the `predict_mutation_effect` function takes a pre-trained model, a wild-type protein sequence, and a mutant sequence as inputs. It encodes the sequences into a format that the model can process, then uses the model to generate predictions for both sequences. The difference between these predictions is used to estimate the effect of the mutation on the protein's function. The application of language models in this domain is still an active area of research, and there are ongoing efforts to improve the accuracy and reliability of these predictions. Nevertheless, the current capabilities of language models represent a significant step forward in our ability to understand and manipulate protein function through computational means[^1].
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

UnknownBody

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值