- 博客(10)
- 收藏
- 关注
原创 初学者怎么入门大语言模型(LLM)?
如果你真心想要入门大型语言模型(LLM),只看这一个文章应该是可以入门的。但是修行下去,还是要靠自己的了!如果你把大语言模型/LLM 当成一门技术来看,那就要看一下这门技术需要什么。基本要求:开发语言:Python , C/C++开发框架和工具库: Numpy /Pytorch /Tensorflow /Keras /Onnx数学知识:线性代数、高数、概率、凸优化这些东西我们假定你都已经会了,或者熟练使用了。如果不熟,我建议你自己再学习一下。尤其是数学的几个基本公式,是要学会的。我列一下吧。
2024-10-19 11:31:13
1953
原创 什么是多模态大模型?为什么需要多模态大模型?_多态大模型
很多人都听说过多模态,也知道多模态大模型,但如果让你介绍一下什么是多模态大模型,它有什么优点和缺点,以及为什么需要多模态,这时可能就有点傻眼了。。仅依赖图像可能无法准备获取文字内容和背后的含义。简单来说,所谓的多模态大模型就是一种能够理解和处理多种类型的机器学习模型——而类型也被叫做模态,包括文本,图片,音频,视频等。。单一模态具有局限性,其具体主要表现在信息不全面和上下文缺失:。
2024-10-19 11:29:24
1166
原创 大语言模型是什么? LLM从入门到精通,看这一篇就够了
②虚假信息:大语言模型可能会生产一些具有极强迷惑性的信息,甚至可能被用于传播虚假信息或进行舆论操纵:当前社交机器人更多停留在一级传播,如果大语言模型和社交机器人相结合,就可能会形成类人的交流能力,带来社交机器人的多级传播,从而强化社交机器人传播虚假信息的负面影响。①算法垄断:大语言模型的训练需要消耗巨大的算力资源,更高的门槛在很大程度上限制了学界对大模型的持续探索,未来可能只有少量大型企业和机构能够参与到前沿大语言模型的研发当中。大语言模型与普通语言模型相比,大语言模型的一个显著区别在于其规模。
2024-10-18 09:05:22
777
原创 新手友好 | 什么是大语言模型和RAG?
尽管这些大型语言模型与小型语言模型(例如 3.3 亿参数的 BERT 和 15 亿参数的 GPT-2)使用相似的架构和预训练任务,但它们展现出截然不同的能力,尤其在解决复杂任务时表现出了惊人的潜力,这被称为“涌现能力”。大型语言模型(LLM)相较于传统的语言模型具有更强大的能力,然而在某些情况下,它们仍可能无法提供准确的答案。**预训练和微调:**LLM 采用了预训练和微调的学习方法。我们一般说的LLM 通常指包含数百亿(或更多)参数的语言模型,它们在海量的文本数据上进行训练,从而获得对语言深层次的理解。
2024-10-17 09:10:24
1077
原创 不要上来就大模型,从训练一个小模型开始
因此小模型是一个不错的选择,可以根据自己的喜好和需求,训练一个能够满足我们日常工作和生活的小模型其实也是一个挺不错的选择。不知道大家有没有在抖音上看到过一个用四个月时间训练模型打蚊子的哥们,虽然并不知道他训练模型用了多大的数据量,但从他手动标注数据的情况下,他的数据量应该不是很大,而且他的操作好像都是在个人主机上完成的。而从学习和使用的角度来说,大模型和小模型最大的差距就是对算力的需求;不说大模型数据训练和微调所需要的资金,算力等问题,就大模型训练所需要的训练和微调数据的收集,就已经是一个很大的工程量了。
2024-10-17 09:07:54
451
原创 从零开始,大模型训练教程_大模型如何训练
ChatGPT面世以来,各种大模型相继出现。那么大模型到底是如何训练的呢,在这篇文章中,我们将尽可能详细地梳理一个完整的 LLM 训练流程,包括模型预训练(Pretrain)、Tokenizer 训练、指令微调(Instruction Tuning)等环节。
2024-10-16 09:25:10
770
原创 一篇文章带你知道:什么是大模型?
大模型是指具有数千万甚至数亿参数的深度学习模型。近年来,随着计算机技术和大数据的快速发展,深度学习在各个领域取得了显著的成果,如自然语言处理,图片生成,工业数字化等。为了提高模型的性能,研究者们不断尝试增加模型的参数数量,从而诞生了大模型这一概念。大模型通常由深度神经网络构建而成,拥有数十亿甚至数千亿个参数。大模型的设计目的是为了提高模型的表达能力和预测性能,能够处理更加复杂的任务和数据。大模型采用预训练+微调的训练模式,在大规模数据上进行训练后,能快速适应一系列下游任务的模型。
2024-10-16 09:22:27
1088
原创 人工智能大模型多场景应用解析
一类能够生成新的、原创的内容的人工智能模型。由于语言模型对语言的先验知识和模式的强依赖性,当输入数据的领域和语言模型的训练领域不匹配时,语言模型可能会出现错误的纠正结果。模型设置:将整体任务拆解是一种常见的模型设置技巧,它可以将一个复杂的任务分解为多个简单的子任务,并针对每个子任务分别设计不同的模型或者模型组合,从而提高整体模型的性能和可解释性。把握生成式人工智能浪潮需要不断学习、实践和创新,同时也需要保持开放的心态和积极的态度,与时俱进地掌握人工智能的最新进展和应用场景,为自己的未来发展打下坚实的基础。
2024-10-15 18:59:28
733
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅