关于llm-agent讲座的思考

当前的大语言模型研究单LLM作为大脑，还未在多模态大模型作为Agent的研究有很多探索。发现LLM会受到单词字母顺序混乱造成扰动出错，但是人的大脑不会，人的大脑是形状感知到上下文理解，这是很有意思的研究。扰序研究方向可以作为一个benchmark，好的模型越来越好，反之鲁棒性差的模型会更差。在图结构中降低边的权重可以理解为剪枝。第三个研究方向是大语言模型的信息分层，针对不同用户给出不同层面规模的回答。重点关注图结构与模型剪枝的关系。权重的下降与模型剪枝去掉无关分支是一个意思。将关键点的连接关系构建成三元组，用知识图谱的形式进行推测。