[Paper Reading]Towards a New Generation of Cognitive Diagnosis

本文探讨了认知诊断领域的基本原理,提出了一种名为NeuralCognitiveDiagnosis(Neural-CD)的神经网络框架,该框架能够学习用户与任务的交互信息,并考虑了技能依赖、用户特征和数据隐私等问题。NeuralCDM模型结构和其在推荐系统、自适应学习和计算机化自适应测试中的应用被详细阐述。此外,还讨论了关系图驱动的CDMs、上下文感知CDMs、回答概率优化和隐私保护的CDMs等扩展方向。这些研究为实现更精准和个性化的用户评估提供了新的思路。

本文对认知诊断领域进行了大体的介绍,以及介绍了其中的一些具有代表性的模型。

认知诊断基于以下两个基本假设:

  • 完成任务时,观察到用户对于此任务的表现(正确/错误回答问题)取决于他们潜在的认知水平(技能的熟练度等)
  • 一个用户的认知水平在短时间内保持稳定,因此可以被识别出。

认知诊断过程的一个例子如下图所示,从用户的回答情况判断出用户技能的雷达图:

其课题组的贡献主要在于:

  • 提出了神经认知诊断框架(Neural Cognitive Diagnosis,Neural-CD),利用神经网络从数据中学习到用户-任务的交互信息。此模型可以包括Item Response Theory(IRT)和Multidimensional IRT(MIRT)
  • 在此基础上考虑了技能之间的依赖关系、用户的内容相关的feature、数据隐私等等问题。

NeuralCDM整体结构如下图:

 论文的详细解读可以参考本文

此外对于CDM的拓展包括以下方面:

  • Relation map-driven CDMs: 利用了概念<->概念,概念<->任务,任务<->用户共三层的关系图,考虑到层之间和层内的影响关系,进一步提高了现有CDM的表现
  • Context-aware CDMs: 利用了用户的学校、地区等信息进行建模,进一步提高模型表现。
  • Item response ranking for CDMs:认知诊断基于单调性假设,及回答正确的概率随用户的技能掌握程度单调变化。但是当前CDMs的优化过程没有充分考虑这一点,所以提出了pairwise的object function以优化模型。(个人认为类似于BPR?)
  • Privacy-preserving CDMS:aggregated data和centralized training会带来隐私泄露的风险,使用Federated Learning(联邦学习)是一种可能的解决方案。

具体的模型可以见相关论文或博客

认知诊断的应用场景:

  • 推荐系统:目标是基于用户偏好以及用户对于技能的掌握程度为用户match合适的任务。
  • Adaptive Learning:为用户提供个性化的学习路径,且路径根据用户的能力以及偏好动态变化。
  • Computerized adaptive testing(CAT):为用户提供个性化的测试流程,以快速掌握用户对于不同知识点的掌握程度。
针对过分分布的普遍化:一项调查 "towards out of distribution generalization: a survey"是一项对过分分布普遍化现象的研究。该研究关注如何处理机器学习中的模型在训练过程中未曾遇到的情况下的泛化能力。 当前,机器学习中的模型往往在面对与训练数据不同的情况时出现问题。这些情况被称为"分布外"或"过分分布"。过分分布问题在现实世界的应用中非常普遍,例如在医学影像诊断中,模型在对未见过的病例进行预测时可能出现错误。 为了改善过分分布问题,该调查着重研究了几种处理方法。首先,一种方法是使用生成对抗网络(GAN)。GAN可以通过学习未见过的数据分布来生成合成样本,从而提高模型的泛化性能。其次,该调查还介绍了自监督学习和深度对比学习等技术。这些方法通过引入自动生成标签或学习新的特征表示来增强模型的泛化能力。 此外,该调查提到了一些用于评估模型在过分分布上泛化能力的评估指标。例如,置信度和不确定性度量可以帮助评估模型对于不同类别或未知样本的预测是否可信。同时,模型的置换不变性和鲁棒性也是评估模型泛化能力的重要因素。 总结来说,这项调查对于解决过分分布普遍化问题提供了一些有益的方法和指导。通过使用生成对抗网络、自监督学习和深度对比学习技术,以及评估模型的不确定性和鲁棒性,我们可以提高模型在未曾遇到的情况下的泛化能力。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值