
自然语言处理
文章平均质量分 62
跟大模型或者nlp相关
马斯洛金字塔下的小灵猴儿
5年Java经验 & 2年AI算法经验。获得资格证书:
机器学习算法工程师 & 深度学习架构师 & 软件设计师。感兴趣可以访问我的小网站:https://www.notion.so/e8017771eba64488869494f0bd618723。如果你想要了解更多人工智能方面的知识,可以闲鱼搜索“Ai追光者”,查看你感兴趣的服务哟。
展开
-
CodeFuse-CodeLlama-34B基座大模型对KSQL支持效果的调研报告
为了评估该模型在实时数据处理领域的潜力,特别是其对ksql的支持效果,本调研旨在通过一系列测试案例,全面验证CodeFuse-CodeLlama-34B模型在处理ksql任务时的准确性和效率。原创 2024-08-05 10:47:51 · 972 阅读 · 0 评论 -
大模型的注意事项
先不针对任何的问题进行预训练!!!进行SFT下游任务微调!!强大的泛化能力!!试图一个模型搞定所有事情!!!原创 2024-07-15 17:00:31 · 236 阅读 · 0 评论 -
大模型补充知识
一句话:把公共大模型(大公司产品,开源大模型)变成私有(行业,领域,个人)大模型。下载包后安装软件命令:pip install -e . -i。运行软件命令:llamafactory-cli webui。3,让大模型干一些超出人工智能范畴的事情。训练阶段 和 具体的训练策略 是两码事儿。3,RLHF 基于人类反馈的强化学习。1,预训练一个不针对任何任务的模型。2,SFT 针对特定任务的微调。原创 2024-07-15 16:50:16 · 423 阅读 · 0 评论 -
大模型基本知识
1. 大模型资源站github:https://github.com/ 魔塔:modelscpace.cn2. 大模型架构公共底座:transformer Encoder-Decoder架构: T5 - NLG ChatLM - NLG Encoder-Only架构: BERT:NLU 模型:https://modelscope.cn/models/iic/nlp_bert_backbone_base_std/summary 论文:https://ar原创 2024-07-15 16:38:34 · 230 阅读 · 0 评论 -
NLP(自然语言处理)的基本知识
1. NLPNatural Language Processing 自然语言处理 自然语言:中文,英文,日语,法语 ... 时序信号处理 文本 语音 工业信号 时序: 顺序 老干妈 VS 妈老干 VS 老妈干 词(特征)本身是一样的,但是顺序不同,语义也不同!!! hello 2. 如何提取时序信号的特征?第一代技术栈:循环神经网络 循环结构,无法并行,速度是个限制 序列长度比较大的时候,容易遗忘前面的信息 第二代技术栈:多头注意力 并行结构,可以原创 2024-07-15 16:35:08 · 211 阅读 · 0 评论