qq_40717065的博客

现在模型基本没有记忆功能，所以他会总结前面的对话，然后再发送给大模型，所以看起来大模型有记忆能力，但是因为发送给大模型的长度是有限的，所以输入时间久了之后就会看起来大模型好像失忆了，实际上是大模型的记忆长度达到上限，总结前面话语时遗失了重要信息。因为大模型加入了学习思维链的数据，所以类似教小孩一样”多想想““你这个答案怎么得到的呀”这类话语用在大模型上也能得到很好的效果。由于数据和采样策略的原因，我们很难保证大模型在生成时不会说胡话，那么使用“增加假设”的方式就可以让大模型在犹豫时不瞎说。

作业 1，依存句法分析：主谓关系，动宾关系，介宾关系，定中关系，状中结构，助动词关系，被动关系，并列关系，从属关系，定语后置，主语从句关系，同位语关系，分词结构，介词补足语，名词补足语。学习过程中的每一点进步都是值得肯定的。3、基于深度学习的语义角色标注（优点：自动学习，能够很好的理解复杂的语义词汇，新的词汇语境的学习能力很强，缺点：需要大量数据和硬件支持，运算速度慢）。基于深度学习的语义角色标注是一种利用神经网络进行学习和预测的方法，利用神经网络对语句的上下文信息进行建模和编码，以预测每个词的语义角色。

例如：“我（主语）的（助词）朋友（名词），小明（同位词），来（动词）了（助词）。例如：“（主语）[（连词）做（动词）好事（宾语）]是（动词）一种（量词）美德（宾语）。被动关系（pass）：表示一个动词处于被动态，通常伴随有“被”、“受”等标记。例如：“我遇到了那个（名词）昨天（副词）见过（动词）你（宾语）的（助词）人（名词）。例如：“他们（主语）找到了（动词）一个（量词）被（助词）遗弃（分词）的（助词）房子（宾语）。例如：“我（主语）知道（动词）他（主语）喜欢（动词）篮球（宾语）。

（AI：是的，这句话的意思是在Word2Vec和GloVe等词向量模型中，每个单词被视为一个独立的标识符，并且被映射到向量空间中的唯一向量表示。因此，对于一个罕见的单词，它的向量表示可以通过其子词的向量表示进行平滑，并且可以根据这些子词在语料库中的出现频率来加权平均，从而得到更准确的向量表示。通过将每个单词拆分为多个子词，并将每个子词嵌入到向量空间中，FastText可以更好地处理罕见的或未知的单词，因为即使某个单词在训练数据中没有出现过，它的子词仍然可以提供有用的信息，从而使得该单词的向量表示更加准确）

跟着王老师学AI

chatgpt4王老师（扮演AI自然语言的顶尖计算机教育专家），零基础教授计算机科学和人工智能（AI）领域——自然语言处理（NLP）

龙傲天在线学习

学习变成讲故事，希望你喜欢，轻松学会AI自然语言处理