- 博客(22)
- 收藏
- 关注
原创 书生浦语第四期L1G5000——XTuner 微调个人小助手认知
使用 conda 先构建一个 Python-3.10 的虚拟环境cd ~#git clone 本repo安装XTuner验证安装输出结果为。
2024-12-09 09:54:37
982
原创 书生浦语第四期L1G3000——浦语提示词工程实践
利用对提示词的精确设计,引导语言模型正确回答出“strawberry”中有几个字母“r”。完成正确的问答交互并提交截图作为完成凭证。没有使用提示词时,显示的答案是错误的。引入角色扮演,发现并不起作用引入思考步骤,流程思考正确,但结果错误加入思考步骤还是不正确终于在不断详细的描述下,回答正确提示词Role:你是一个可以对单词中字母出现次数进行计数的专家Question:“strawberry”中有几个字母'r'Process:1)将单词中的字母进行编号,以确定对用位置的字母。
2024-12-02 21:03:11
820
原创 书生浦语第四期L1G2000——玩转书生「多模态对话」与「AI搜索」产品
2. 2024 年诺贝尔物理学奖为何会颁发给人工智能领域的科学家 Geoffrey E. Hinton,这一举动对这两个领域的从业人员会有什么影响?选择逻代码编程、文章创作、灵感创意、角色扮演、语言翻译、逻辑推理以上任意一个场景或者你自己感兴趣的话题与浦语进行对话 (轮次不限)。体验书生·万象模型多模态能力,从图片 OCR、图片内容理解等方面与书生·万象展开一次包含图片内容的对话。3. 最近大火的中国 3A 大作《黑神话·悟空》里有什么让你难忘的精彩故事情节?目前生成式AI在学术和工业界有什么最新进展?
2024-11-22 09:39:46
351
原创 书生浦语第四期L1G1000——书生大模型全链路开源体系
书生浦语一年的历程模型本身的性能具有强大推理能力数据驱动的模型性能伪结构化或者半结构化数据,书生浦语对于数据标注有着不错的平台大海捞针实验:从很长很长背景知识中,100%精确定位到任何位置的任何信息基于规划和搜索解决复杂问题:1.8B:端侧,手机、电脑7B:轻量级研究20B:做数据微调才有效果,出现不一样的知识数据——>预训练——>微调——>部署——>评测——>应用。
2024-11-21 20:36:14
372
原创 书生浦语第四期L0G4000——玩转HF/魔塔/魔乐社区
新建一个hf_download_josn.py 文件运行该文件,可以看见如下效果,从hugging face上下载了相应配置文件。
2024-11-21 16:47:42
444
原创 书生浦语第4期L0G1000——Linux基础知识
当完成开发机的创建以后,我们需要打开自己电脑的powerShell终端,使用Win+R快捷键打开运行框,输入powerShell,打开powerShell终端。因为以前做过免密登录,此处不用填写密码即可进行远程连接。ssh -p 49373 root@ssh.intern-ai.org.cn -CNg -L 7860:127.0.0.1:7860 -o StrictHostKeyChecking=no创建hello_world.pytonch demo.py:快速创建文件demo.pymkdir te
2024-11-01 16:05:22
331
原创 书生浦语大模型第3期基础岛——OpenCompass 评测 InternLM-1.8B 实践
打开eval_tutorial_demo.py 贴入以下代码。InternLM和ceval相关的配置文件。# 注意:一定要先 cd /root。安装——面向GPU的环境安装。
2024-08-12 16:43:36
509
原创 书生浦语大模型第3期基础岛——XTuner 微调个人小助手认知
速度太慢可换成pip install -e '.[deepspeed]' -i https://mirrors.aliyun.com/pypi/simple/再次运行xtuner_streamlit_demo.py脚本来观察微调后的对话效果,在运行之前,我们需要将脚本中的模型路径修改为微调后的模型的路径。方法一:创建一个脚本文件 xtuner_generate_assistant.py。# 创建一个目录,用来存放微调的所有资料,后续的所有操作都在该路径中进行。通过脚本生成的方式来准备数据。
2024-08-12 09:37:53
686
原创 书生浦语大模型第3期基础岛——InternLM + LlamaIndex RAG 实践
打开llamaindex_internlm.py 贴入以下代码。点击选择镜像使用 Cuda11.7-conda镜像。下载Sentence Transformer模型。打开download_hf.py 贴入以下代码。把InternLM2 1.8B 软连接出来。安装LlamaIndex词嵌入向量依赖。安装 Llamaindex和相关的包。安装python依赖包。下载NLTK相关资源。
2024-08-10 15:12:25
2011
原创 书生大模型实战营第3期基础岛——浦语提示词工程事件
在数学领域,专家通常具备深厚的数学理论基础和丰富的解题经验,能够解决各种复杂的数学问题,包括但不限于代数、几何、微积分、概率论等。你对数学问题的渴望将引领我们探索数学的奥秘,无论是基础的代数方程,还是复杂的微积分难题,我们的目标是让每一个数学挑战迎刃而解。- Description: 作为一名数学问题专家,我具备深厚的数学理论知识和丰富的解题经验,擅长解决各种难度的数学问题。作为数学问题专家,我将遵循上述规则,以中文与你沟通,下面我将按照工作流程,帮助你解答数学问题或提供学习建议。
2024-08-06 17:42:23
2029
原创 书生大模型实战营第3期基础岛——8G显存玩转书生大模型Demo
(我的端口号为48582,即命令为 ssh -CNg -L 6006:127.0.0.1:6006 root@ssh.intern-ai.org.cn -p 48582)ssh -CNg -L 6006:127.0.0.1:6006 root@ssh.intern-ai.org.cn -p 你的 ssh 端口号。使用 LMDeploy 启动一个与 InternLM-XComposer2-VL-1.8B 模型交互的 Gradio 服务。在本地的 PowerShell 中输入以下命令,将端口映射到本地。
2024-08-04 12:29:23
1084
原创 书生大模型实战营第3期基础岛——书生大模型全链路开源体系
书生·浦语 2.0(InternLM2)的主要亮点是超长上下文、综合性能全面提升、优秀的对话和创作体验、工具调用能力整体升级、突出的数理能力和实用的数据分析功能。从综合性客观评测角度,OpenCompass年度榜单显示整体能力仍有较大提升空间、复杂推理仍是短板、“理科”能力和模型尺寸关联性高、模型主客观性能需综合参考。书生·浦语全链条开源开发体系:数据—>预训练—>微调—>部署—>评测—>应用。综合性能达到同量级开源模型(轻量级开源模型和中量级开源模型)的领先水平。从以上可看出,大模型未来可期。
2024-07-31 20:32:02
413
原创 书生大模型实战营第3期——Python基础知识
请实现一个wordcount函数,统计英文字符串中每个单词出现的次数。返回一个字典,key为单词,value为对应单词出现的次数。至此,debug结束。
2024-07-20 09:05:13
368
原创 书生大模型实战营第3期——Linux基础知识
进入开发机页面,点击SSH连接注:这里的密码在ssh连接页面是隐藏的,复制如果没有用的话,建议粘贴到记事本上显示手敲上去hostname:查看开发机名称 uname -a:查看开发机内核信息lsb_release -a:查看开发机版本信息 nvidia-smi:查看GPU的信息使用RSA算法生成密钥,命令为:ssh-keygen -t rsa注:进入.ssh目录,再使用Get-Content命令重启powershell,再次粘贴登录命令,不用输入密码如果显示Could not es
2024-07-17 13:33:19
639
原创 Java线程
线程的方法:1、继承Thread2、实现Runnable接口public class Demo04 extends Thread{ // private int ticket=10; @Override public void run() { super.run(); while(true) { if(ticket<=0) { break; } System.out.println("线程:"+Thread.currentThread().
2021-07-23 20:28:17
111
原创 Java语言制作动画
为了使制作出来的满天星更加好看,采用随机数产生,对于产生的位置采用二维数组进行定义、为了使动画动起来,通过改变横纵坐标的大小来实现(写这篇的目的是为了证明Java不是枯燥无味的)import java.awt.Color;import java.awt.Font;import java.awt.Graphics;import java.util.Random;import javax.swing.JPanel;/** * 画布类:JPanel * @author Admin.
2021-07-23 20:21:15
3634
原创 Java的一些语法
数据从控制台输入:Scanner in= new Scanner(System.in);int x= in.nextInt();//x表示输入的变量in.close();//关闭流冒泡排序的语法:基本原理:比较两个相邻的元素,进行交换for (int i = 0; i < arr.length; i++) {//数组arr[] for (int j = 0; j < arr.length - 1 - i; j++) { ...
2021-07-23 20:04:23
108
原创 你的eclipse IDE与别人的不一样
一些快捷键:代码格式化:先ctrl+A(全选),再ctrl+I----------可以达到格式化的效果
2021-07-14 23:18:42
329
1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅