- 博客(5)
- 收藏
- 关注
RSS订阅原创 茴香豆：搭建智能RAG智能助理（书生大模型第三节课笔记）
帮助用户管理特定领域和专业领域的知识，建立领域、行业、个人专属的快速检索知识库。rag可以在用户输入问题时，结合特定的本地知识库，使大模型基于知识库中现有的信息，生成更精准细致的答案。
2024-04-08 01:41:08
522
原创 书生大模型第二节课作业
这个Lagent工具可以自己运行python来独立解决一些数理问题或者完成数据分析任务。但是聊天记录过长会出现爆显存的情况....，将allow_patterns修改为.json，下载成功后找到config.json即可。
2024-04-06 15:03:20
436
1
原创 书生大模型第二节课笔记
第二节课完成了较多的内容，主要包括模型下载，环境配置以及模型调用，平台给开放了A100半卡的算力，属实是非常给力啦~课程讲解十分详细，对于零基础选手没有什么障碍。
2024-04-06 14:42:02
236
1
原创 书生·浦语大模型第一节课笔记
书生浦语2.0体系提供了7B和20B的规格，各自对应三个不同的模型版本，分别是基座模型，强化版基座模型和经过优化对话功能的聊天模型。
2024-04-05 14:50:12
235
1
原创 pytorch模型和数据已经导入到gpu上，训练速度没有提升
首先实例化模型和优化器，加载checkpoint，将模型、优化器和数据集传入到训练函数run中。函数run的代码如下： 可以看到数据，模型参数，以及加载的优化器参数，都被转移到了gpu上。显存占用和gpu使用率都满了。训练速度是每秒一个iter的样子，和之前在cpu上训练的速度比没有提高。之后速度就达到了每秒钟9个iter的样子
2024-02-21 11:09:25
870
1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人