比较老的普通移动工作站,I7CPU,内存32G。
建知识库时,CPU直接拉满,内存使用53%;模型工作时,CPU使用80%左右,内存仍然53%左右。7b模型最大只允许上传1000个文件。
测试两个知识库:1.小说,2.法律
小说知识库:建立应用时选择知识引导+检索知识库方式,让它写一个关于老人和飞机的小说,写了不到200字,逻辑尚可,简单百度了一下并未搜到,它引用的知识库原文也不一样。又让它写不少于1000字关于年轻寡妇和村长的故事,没写出来。
法律知识库:采用160个法律判决书作为知识库;建立应用时选择知识引导+检索知识库方式,然后输入一段详细的事件描述,而且特意和知识库吻合50%左右,问的问题是最终法院会怎么判,它的回答基本上就是一些知识,包括欺诈怎么办,消费者怎么办,去哪投诉云云,没有逻辑;又建立一个应用,选择简易模型,同样的问题,从回答看,它应该是看懂了问题,回答的也算有点帮助。
关于问答模式,没有测试。一想起知识库要求先把问题和答案都准备好,就不想测试了。