- 博客(5)
- 收藏
- 关注
原创 base-LLM(三)
主题模型(如 LDA)能从大量文档中自动发现隐藏的、无监督的主题;它的输入同样是词典和 BoW 语料库;通过 LDA,不仅可以将一篇文档表示为一个主题概率分布(Gensim 默认以稀疏列表返回;例如 90% 体育、10% 财经),还能清晰地看到每个主题由哪些核心词构成;若新文本在词典中几乎无重叠词(doc2bow 为空),推断出的主题分布可能接近均匀(例如 2 个主题时约为 0.5/0.5);
2026-04-13 17:20:50
391
原创 base-LLM(二)
滑动窗口可以这样理解,就是我们先使用中心词左右各7个词去预测第8个词,然后再通过第9个词左右各7个词去预测第9个词时,显然这两次过程中有12个词是一样的,所以他们的预测结果是相近的,但是我们的初衷是用这两次过程去预测两个不同的词,模型的目标看似矛盾,实际上如果这两个目标的词向量本身足够接近时,模型就可以很好的预测出他们俩;需要注意的是,词典外的新词会被忽略,新文本的向量仅由词典中已有词构成。Word2Vec 更聚焦于词语的局部上下文,它的核心思想来源于分布式假设,即一个词的含义,由其上下文中的词语决定;
2026-03-23 16:20:10
371
原创 具身智能(一)
具身智能,指的是能够通过物理身体(如机器人、自动驾驶汽车等)在真实世界中进行感知、交互和学习的智能系统;简单来说,具身智能就是智能的大脑 + 行动的身体;
2026-01-15 22:24:33
174
原创 base-LLM(一)
自然语言处理(NLP)包含自然语言理解(NLU)和自然语言生成(NLG)两大核心任务。关键技术包括词法分析、句法分析、语义分析和语用分析四个层次。近年来,Transformer、BERT、GPT等里程碑式模型推动了NLP发展。中文分词工具jieba采用词典匹配与隐马尔可夫模型相结合的混合策略,支持自定义词典处理未登录词问题。现代NLP模型更倾向于使用字粒度或子词分词(如BPE算法)等数据驱动方法。词向量表示方法从独热编码、词袋模型发展到N-gram模型,为文本处理提供数值化表示。尽管取得进展,NLP仍面临语
2026-01-14 20:00:45
813
原创 Titanic - Machine Learning from Disaster
在接下来的训练过程中,发现有三列的数据不全,所以采取了用平均数填充缺失数据的方法进行训练;根据竞赛上的教程先训练了一个csv文件,教程中考虑的主要因素是性别;接着更改代码,添加其他列,观察其他因素对幸存率的影响;最后我尝试根据票型进行预测,但是评分结果是0;浏览目录中的文件并导入相应的库;首先配置环境,创建了虚拟环境;接着读取训练集和测试集文件;
2025-07-23 14:17:08
187
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅