- 博客(2)
- 收藏
- 关注
原创 【ERNIE 4.5】法律数值计算器
本项目基于ERNIE4.5开发了一个法律数值计算器,需在GPU环境下运行。主要步骤包括:1) 解压法律数据文件;2) 安装必要的Python库;3) 配置API密钥并启动应用。系统采用RAG架构,结合向量检索和BM25关键词检索,使用BGE模型进行文本嵌入和重排序。核心功能是通过LLM解析法律条文并执行数值计算,最终以专业法律顾问的口吻输出结果。项目提供了完整的API调用模块(llm_handler.py)和配置文件(config.py),支持超时重试机制和性能优化参数配置。
2025-12-03 11:38:22
390
原创 【Paddle】超越 attention:RWKV-7 架构的 Paddle 实现
本项目基于PaddlePaddle实现了RWKV-7纯RNN大模型架构,并与Transformer和LSTM进行了对比实验。实验采用"倒背数字"任务,测试模型的长距离记忆能力。结果显示,RWKV-7和Transformer都能较好完成任务,其中RWKV-7在loss下降速度和准确率上表现更优。虽然当前实现因缺少CUDA优化而速度较慢,但验证了RWKV架构结合RNN和Transformer优势的特点:恒定显存占用、并行训练能力以及无需位置编码。项目提供了完整的复现流程,可在飞桨平台一键运行
2025-12-02 11:52:50
1568
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅