通义千问7b 模型体验

比较老的普通移动工作站,I7CPU,内存32G。

建知识库时,CPU直接拉满,内存使用53%;模型工作时,CPU使用80%左右,内存仍然53%左右。7b模型最大只允许上传1000个文件。

测试两个知识库:1.小说,2.法律

小说知识库:建立应用时选择知识引导+检索知识库方式,让它写一个关于老人和飞机的小说,写了不到200字,逻辑尚可,简单百度了一下并未搜到,它引用的知识库原文也不一样。又让它写不少于1000字关于年轻寡妇和村长的故事,没写出来。

法律知识库:采用160个法律判决书作为知识库;建立应用时选择知识引导+检索知识库方式,然后输入一段详细的事件描述,而且特意和知识库吻合50%左右,问的问题是最终法院会怎么判,它的回答基本上就是一些知识,包括欺诈怎么办,消费者怎么办,去哪投诉云云,没有逻辑;又建立一个应用,选择简易模型,同样的问题,从回答看,它应该是看懂了问题,回答的也算有点帮助。

关于问答模式,没有测试。一想起知识库要求先把问题和答案都准备好,就不想测试了。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值