书生·浦语（2）笔记&作业

书生·浦语第二课

《轻松玩转书生浦语大模型趣味demo》
链接：https://www.bilibili.com/video/BV1AH4y1H78d/?vd_source=
7809d8a73aa5f844d7fb22527d673684

课堂笔记

1. 创建环境并安装包

studio-conda -o internlm-base -t demo
# 与 studio-conda 等效的配置方案
# conda create -n demo python==3.10 -y
# conda activate demo
# conda install pytorch==2.0.1 torchvision==0.15.2 torchaudio==2.0.2 pytorch-cuda=11.7 -c pytorch -c nvidia
在demo虚拟环境下安装包
pip install huggingface-hub==0.17.3
pip install transformers==4.34 
pip install psutil==5.9.8
pip install accelerate==0.24.1
pip install streamlit==1.32.2 
pip install matplotlib==3.8.3 
pip install modelscope==1.9.5
pip install sentencepiece==0.1.99

2. 下载模型并按要求修改文件

mkdir -p /root/demo
touch /root/demo/cli_demo.py
touch /root/demo/download_mini.py
cd /root/demo

使用 InternLM2-Chat-1.8B 模型生成 300 字的小故事

与书生·浦语web端对话

不支持图表绘制
预训练模型使用了RAG技术给出了合适的回答。