20140814 启程

第一次在csdn写博文,不免有些小紧张。在这里先写写这几天来的见闻找找感觉。

最近好像被逼问着一个深刻地哲学性的问题:如何做人。或者说,如何做好人。当然没人直接提出这个问题,都是我在为了写点什么临时yy的,毕竟我和我周围的大部分人还远没有这么有闲心去想为我们这些俗人所谓的文艺的哲理的瞎扯淡的东西。首先我要分清这个问题的层级,意思是这个问题有多深。我是想到张无忌学的那套太极剑法,全忘之后回到原始状态,却被玄乎其玄地描绘成达到了忘我的境界,也想到数学发展史,有一种过程是由模糊到精确再到模糊,有些“形而之上”的东西,和一些底层的东西倒有些相似,这种歪理推广以后,大致可以描述成:不同等级也可能有相同表现形式,这就是我说刚才那个问题要分清层级的原因。首先我不信宗教,信科学,所以认为哲学的东西基本是瞎扯淡,也所以这个问题我谈得是最浅层的问题,如何做人,最简单的灵感,最简单的提问,想要的是最实在的答案,就像小学老师教导的那样,我宁愿有再听一次的机会。

好的,先把这个问题搁这儿,csdn博文之路就这么启程了。写博文是最重要的是原创,这条路必定艰苦,我希望也有信心坚持下来,走好每一步。

为今天的第一步,干杯!

资源下载链接为: https://pan.quark.cn/s/140386800631 通用大模型文本分类实践的基本原理是,借助大模型自身较强的理解和推理能力,在使用时需在prompt中明确分类任务目标,并详细解释每个类目概念,尤其要突出类目间的差别。 结合in-context learning思想,有效的prompt应包含分类任务介绍及细节、类目概念解释、每个类目对应的例子和待分类文本。但实际应用中,类目和样本较多易导致prompt过长,影响大模型推理效果,因此可先通过向量检索缩小范围,再由大模型做最终决策。 具体方案为:离线时提前配置好每个类目的概念及对应样本;在线时先对给定query进行向量召回,再将召回结果交给大模型决策。 该方法不更新任何模型参数,直接使用开源模型参数。其架构参考GPT-RE并结合相关实践改写,加入上下文学习以提高准确度,还使用BGE作为向量模型,K-BERT提取文本关键词,拼接召回的相似例子作为上下文输入大模型。 代码实现上,大模型用Qwen2-7B-Instruct,Embedding采用bge-base-zh-v1.5,向量库选择milvus。分类主函数的作用是在向量库中召回相似案例,拼接prompt后输入大模型。 结果方面,使用ICL时accuracy达0.94,比bert文本分类的0.98低0.04,错误类别6个,处理时添加“家居”类别,影响不大;不使用ICL时accuracy为0.88,错误58项,可能与未修改prompt有关。 优点是无需训练即可有较好结果,例子优质、类目界限清晰时效果更佳,适合围绕通用大模型api打造工具;缺点是上限不高,仅针对一个分类任务部署大模型不划算,推理速度慢,icl的token使用多,用收费api会有额外开销。 后续可优化的点是利用key-bert提取的关键词,因为核心词语有时比语意更重要。 参考资料包括
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值