- 博客(12)
- 收藏
- 关注
原创 【算法工程师面试】大模型(LLM)相关-ChatGLM篇
1,transformer体系,如BERT、GPT等2.Pytorch Lightning:基于Pytorch的轻量级深度学框架,用于快速原型设计和实验。3.Tensorflow Model Garden:Tensorflow官方提供的一系列预训练模型和模型架构4.Hugging Face Transformers:流行的开源库,提供了大量预训练模型和工具,用于NLP任务。
2024-04-02 21:08:41
804
1
原创 【算法工程师面试】正则化
正则化意味着通过将系数估计值缩小到零来限制模型,以避免过拟合。当模型出现过拟合时,应该控制模型的复杂度。从技术上讲,正则化通过向模型的损失函数添加惩罚来避免过拟合。正则化是一种通过引入额外信息或约束来防止模型过拟合,提高泛化能力的技术。
2024-04-02 17:46:24
199
1
原创 论文笔记:Subgraph Retrieval Enhanced Model for Multi-hop Knowledge BaseQuestion Answering
提出了一个子图检索器(SR ),它与后续的KBQA推理机相分离。SR被设计为有效的双编码器,其可以在扩展路径以及确定扩展的停止时更新问题。两个基准测试的实验结果表明,在面向子图的推理机之前注入SR,可以有效提高QA性能。如果通过弱监督预训练以及端到端微调来学习SR,配备有NSM的SR为基于嵌入的KBQA方法创建新的SOTA结果。......
2022-06-21 15:37:00
1847
1
原创 论文笔记Improving Multi-hop Knowledge Base Question Answering by Learning Intermediate Supervision Signa
引用格式:[1]He G, Lan Y, Jiang J, et al. Improving multi-hop knowledge base question answering by learning intermediate supervision signals[C]//Proceedings of the 14th ACM International Conference on Web Search and Data Mining. 2021: 553-561.源码:RichardHGL/WSDM
2022-06-21 09:04:04
1107
原创 CNN、RNN、LSTM、BERT等引用格式
三个引用格式,以此是GB/T 7714:文后参考文献著录规则(我国)国家标准的代号由大写汉语拼音字母构成。 强制性国家标准的代号为"GB",推荐性国家标准的代号为"GB/T"。“MLA(Modern Language Association)是一种常用的引用格式,为美国现代语言协会制定的论文指导格式,在一般书写英语论文时应当使用MLA格式来保证学术著作的完整。”APA(American Psychological Association):APA格式是一个为广泛接受的研究论文撰写格式,特别针对.
2022-05-21 10:54:14
11268
2
原创 论文笔记:Sequence-to-Sequence Knowledge Graph Completion and QuestionAnswering
Sequence-to-Sequence Knowledge Graph Completion and Question摘要:现成的编码器-解码器转换器模型可以作为可扩展和通用的KGE模型,获得KG链接预测和不完全KG问题回答的最新结果。通过将KG链接预测(KG link prediction)作为序列到序列(seq2seq)的任务来实现这一点,并将先前KGE方法采用的三重评分方法与自回归解码进行交换。与传统的KGE模型相比,这种简单但强大的方法将模型大小减少了98%,同时保持推理时间易处理。Intr
2022-04-26 16:38:25
3267
2
原创 Numpy学习笔记(4)-副本与视图
个人总结这一部分是个人学习笔记,完整内容见下文或者链接对numpy数据进行切片操作得到的数组是指向相同缓冲区的视图。通过np.take()可以方括号内传入多个数值,可以同时选择多个元素。布尔索引可以定义条件,输出自己想要的数值。生成的数组视图将始终是原始数组的子数组, 但是整数数组索引,不是其子数组,是形成新的数组。如果axis=0,则沿着纵轴进行操作;axis=1,则沿着横轴进行操作,如果是多维,可以总结为一句话:设axis=i,则numpy沿着第i个下标变化的放下进行操作自己
2021-09-30 10:19:13
341
原创 Numpy学习笔记(3)-数组的创建
https://tianchi.aliyun.com/course/323/3642个人总结这一部分是自己看的,更详细内容见下文或者链接。个人总结:np.array可以很方便创建数组,可以创建0数组:np.zeros() np.zeros_like()可以创建1数组:np.ones() np.ones_like()可以创建空数组:np.empty() np.empty_like(),此时填充是随机数,并不是真的空。可以创建单位数组(对角线上位1,其余位置...
2021-09-29 09:53:45
1295
原创 Numpy学习笔记(2)-时间日期
时间日期和时间增量个人总结:时间日期(datetime64)可以表示日期,以‘Y-M-D-h-m-s'顺序表示,并且numpy中自带了busday(工作日)的功能,可以统计一段时间内工作日的数量,以及指定日前是否是工作日等,也可以自定义每周的哪几天是工作日。datetime64基础python中用datetime表示时间日期类型,numpy中为了区分,用datetime64来表示时间日期类型。datetime64是带单位的日期类型:日期单位 代码含义 时间单位 代码
2021-09-29 08:50:59
1686
原创 Numpy学习笔记(1)-数据类型后面的下划线“_“
个人理解:常见数据类型:数据类型的下划线是为了区分,原本python中不加以区分的数据类型。dtype:描述数据类型各种信息的python中的int是灵活变动的,numpy中int对应不同的数值范围。常见数据类型Numpy实践 - AI学习 - 阿里云天池 (aliyun.com)python原生的数据类型较少,这在通常情况下是非常方便的,不需要像C/C++一样每种变量都要定义数据类型。但是在科学计算领域,通常需要对数据进行更多的控制,为了区分这些数据,numpy在这一类数据类型
2021-09-28 11:58:54
497
原创 Python中的类以及self的简单解释
关于类与类的示例可以举个例子,比如:类(class):水果实例(instance):苹果实例就是类的一种具象化。 Python通过关键字 class来定义 类,Python中的类一般要遵循以下形式:class A:#类名 def __init__(self,参数1,参数2..):#构造函数 ... def 方法名1(self,参数1,参数2..):#方法1 ... def 方法名2(self,参数1,参数2..):...
2021-09-22 20:57:05
1172
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人