自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(30)
  • 收藏
  • 关注

原创 PHP403问题

Vscode打开时地址写的是绝对地址,改成相对地址后即可正常访问。打开显示403,改了各种配置文件都还是403。小皮面板 PHP+Apache。在Vscode直接用。

2025-02-25 14:05:03 254

原创 【书生·浦语大模型实战营】第7节:OpenCompass 大模型评测实战(笔记及作业)

针对具有确定性答案的能力维度和场景,通过构造丰富完善的评测集,对模型能力进行综合评价。针对体现模型能力的开放式或半开放式的问题、模型安全问题等,采用主客观相结合的评测方式。文档:https://github.com/InternLM/Tutorial/blob/camp2/opencompass/readme.md。客观评测用定量指标比较模型的输出与标准答案以进行评测,主管评测则是用高性能的大模型模拟人类进行主观打分。实现对internlm2-chat-1_8b模型在C-Eval数据集上的性能评测。

2024-05-12 17:18:52 564

原创 【书生·浦语大模型实战营】第6节:Lagent & AgentLego 智能体应用搭建(笔记及作业)

三种常见的智能体范式Lagent和AgentLego介绍server启动# 比如 export WEATHER_API_KEY=1234567890abcdef。

2024-05-12 15:37:23 487

原创 【书生·浦语大模型实战营】第5节:LMDeploy量化部署实践(笔记及作业)

个人感觉LMDeploy和XTuner都是非常实用的工具,不过LMDeploy更偏向应用层面。大模型部署大多都是把训练好的模型部署到本地或者服务器上,但是大模型部署一般对资源要求比较高。pipeline.py内容修改kv cache内存占比,并把模型改为w4a16量化后的模型。显然,internlm2-chat-1_8b也回答不上来是更喜欢爸爸还是更喜欢妈妈。主要介绍了大模型的部署背景、大模型部署方法,并且简单介绍了LMDeploy。很显然internlm2-chat-1_8b-4bit也不太喜欢读研。

2024-05-12 14:48:23 626

原创 【书生·浦语大模型实战营】第4节:XTuner(笔记及作业)

xtuner确实方便,几条指令就能直接开始训练了,而且支持使用自己的数据集,比我之前自己做qlora微调方便了非常多,而且config文件也写得很清楚明了,不用花很多时间去理解,一看就懂,还是很方便的。xtuner支持在终端直接与Huggingface格式的模型进行对话,可以测试整合后的模型的性能,真的好方便……将 /root/ft/web_demo/InternLM/chat/web_demo.py中的内容替换为以下的代码。指令获取xtuner支持的模型及对应的微调方式。指令可获得指定模型的配置文件名。

2024-05-12 11:05:13 512

原创 【作业】【书生·浦语大模型实战营】第3节

⚠️ 重要事项: 如果不用 https 安全链接,需要。否则知识库登录会异常。运行算法pipeline。

2024-05-08 15:58:50 502

原创 【书生·浦语大模型实战营】第3节:茴香豆:搭建你的 RAG 智能助理(笔记及作业)

在终端运行以下命令,实现从官方环境复制运行InternLM的基础环境,并命名为InternLM2_Huixiangdou。⚠️ 重要事项: 如果不用 https 安全链接,需要。的相关模块,默认嵌入和重排序模型调用的网易。否则知识库登录会异常。数据库向量化的过程应用到了。运行算法pipeline。

2024-05-08 15:54:34 498

原创 Oh my posh设置显示conda环境名称

在"blocks"下对应的位置中的"segments"中增加如下代码。保存后打开powershell,输入以下命令打开配置文件。选择自己想要的主题文件(建议复制一份文件备份)Oh My Posh 主题文件存放位置。把#部分改为你刚刚修改的配置文件的名字。在想要显示环境名称的位置。

2024-04-15 14:31:59 2052

原创 【作业】【书生·浦语大模型实战营】第2节

【代码】【作业】【书生·浦语大模型实战营】第2节。

2024-04-08 09:40:57 305

原创 【书生·浦语大模型实战营】第2节:轻松玩转书生·浦语趣味Demo

完成后修改lagent下example/internlm2_agent_web_demo_huf.py文件,修改后如下所示。若使用Huggingface_hub下载相关文件,可使用huggingface_hub包。进入所创建的文件夹,在download_mini.py文件中输入以下内容并保存。若使用书生·浦语的开发机,则可使用share文件夹中的模型资源。在cli_demo.py中输入以下内容并保存。完成后在终端执行命令以下载模型参数文件。执行Demo,并等待模型加载完成。下载完成后执行以下命令下载程序。

2024-04-02 10:49:19 818

原创 【书生·浦语大模型实战营】第1节:书生·浦语大模型全链路开源开放体系

并重新配置矩阵布局,对每个头部的k、q、v矩阵采用交错的方法以便于张良并行大小的调整,可以沿着矩阵的最后一个维度拆分或链接矩阵,从而增强模型在不同分布式计算环境中的灵活性。背景:大模型已经成为发展通用人工智能的重要途径,从21世纪初到2021年,相关研究集中于针对特定任务的专用模型,近年来相关研究更多倾向于通用大模型,即一个模型应对多种任务和模态,如ChatGPT等。总结了InternLM2的主要贡献,包括模型的开源、在长文本性能方面的设计、数据准备指导以及创新的RLHF训练技术。全方位评测,性能可复现。

2024-03-28 15:08:29 746

原创 Colab运行的网页本地打开方式 ngrok

去ngrok上得到token。

2024-02-27 15:54:11 917

原创 解决colab微调ChatGLM-6B时train.sh25行被killed问题

在用colab对chatglm-6b进行微调时,运行bash train.sh的时候经常会被killed在train.sh的25行。查看colab资源看到系统RAM满了,GPU RAM一点没消耗。把train.sh和推理文件的模型地址改为本地模型地址,减少系统RAM占用。

2023-10-28 14:01:46 292 1

原创 GPU及Colab部署ChatGLM-6B

这篇是默认比如Pytorch等等东西都配置好了就不做过多解释,本文内容只是个人安装ChatGLM-6B的记录。根据下载下来的源码,找到web_demo.py文件打开,把路径修改为chatglm-6b模型在自己本地的地址。我下不下来,最后是直接上Hugging Face下载的[Hugging Face/ChatGLM-6B](按照官方给出的文档,可以通过以下代码调用ChatGLM-6B模型来生成对话。我折腾到这步的时候才发现自己的GPU跑不了,然后换成Colab了。是当前最新的版本号,完整的版本列表见。

2023-10-24 12:01:41 806

原创 JavaScript运算符

JavaScript运算符一、算术运算符运算符描述例子x 运算结果y 运算结果+加法x=y+275-减法x=y-235*乘法x=y*2105/除法x=y/22.55%取模(余数)x=y%215++自增x=y++56–自减x=y–54二、赋值运算符运算符例子等同于运算结果=x=yx=5+=x+=yx=x+yx=15-=x-=yx=

2020-10-17 19:28:58 295

原创 Position定位

Position定位一、position属性二、z-index属性   一、position属性  position 属性规定元素的定位类型。这个属性定义建立元素布局所用的定位机制。任何元素都可以定位,不过绝对或固定元素会生成一个块级框,而不论该元素本身是什么类型。相对定位元素会相对于它在正常流中的默认位置偏移。  position属性常用的有四个值,值描述relative生成相对定位的元素,相对于其正常位置进行定位。(元素的位置通过 “left”, “t

2020-10-17 19:28:42 455

原创 实现旋转六面体(含动画的基本介绍)

实现旋转六面体(含动画的基本介绍)一、3d变换实现六面体二、动画实现旋转效果  为了实现旋转6面体,我们需要利用3d变换构建六面体和动画实现旋转   一、3d变换实现六面体  三层嵌套结构构建3d空间,最里层我们创建六个div分别表示六个面HTML <div class="d0"> <div class="d1"> <div class="dd">1</div>

2020-10-17 19:28:19 1719

原创 媒体查询、栅格系统与响应式布局讲解

媒体查询、栅格系统与响应式布局讲解一、什么是媒体查询二、栅格系统与响应式布局三、Less的使用   一、什么是媒体查询  媒体查询就是Media Query,即css3的@meida。关于其用法我们先来看下面的几行代码.d1 { height: 200px; loat: left;}@media only screen and (max-width:700px) { .col_sm_1 { width: 25%;

2020-10-17 19:27:53 1817

原创 文本样式,CSS字体和背景

文本样式,CSS字体和背景一、文本样式二、字体三、背景   一、文本样式  CSS的文本属性可以定义文本的外观。通过这些属性我们可以改变文本的颜色和字符间距等。  在设定样式之前我们需要了解一下,由于浏览器的默认样式会为页面中的元素添加一些padding和margin,具体这些是什么我们会在盒模型中了解到,在这里不作赘述。不过我们可以暂且认为他们是围在元素周围的一些空隙,他们会顶开其他元素,因此在style标签内最开始我们要这么设置 *{

2020-10-17 19:27:32 557

原创 元素浮动与清除浮动

元素浮动与清除浮动一、元素浮动二、清除浮动  我们知道,块元素具有的特点是具有完整的盒模型和自己占一行。当我们想让多个块元素同占一行时,我们通常使用的方法除了利用display属性之外,还可以利用float属性,使其浮动,达到同占一行的效果。   一、元素浮动  float 属性定义元素在哪个方向浮动。以往这个属性总应用于图像,使文本围绕在图像周围,不过在 CSS 中,任何元素都可以浮动。浮动元素会生成一个块级框,而不论它本身是何种元素。  比如我们先对页面中添加三个div,对

2020-10-17 19:27:06 867

原创 JavaScript数据类型详解

JavaScript数据类型详解  在对js的数据类型有一定的了解之后,我们还有一些对各类数据类型有一些要注意的点。对于不知道是什么类型的数据,我们可以利用关键字 typeof查看数据原型可以利用.__proto__ 查看最后一个属性 __proto__可以得知数据类型地原型一、字符串var str='123456'方法描述str.length获得数组长度。str.replace(‘被替换字符’,‘替换上的字符’)替换字符串中的某个字符,该方法执行后不改变

2020-10-02 13:34:48 198

原创 JavaScript入门(一)

JavaScript 入门一、基本使用二、数据类型  JavaScript一种直译式脚本语言,是一种动态类型、弱类型、基于原型的语言,内置支持类型。它的解释器被称为JavaScript引擎,为浏览器的一部分,广泛用于客户端的脚本语言,最早是在HTML(标准通用标记语言下的一个应用)网页上使用,用来给HTML网页增加动态功能。   一、基本使用  在html文件中我们在script标签写入js部分  该标签可以写在head标签中,也可以写在body中的html部分的后面。在默认情

2020-10-02 13:34:18 140

原创 JavaScript入门(二)

JavaScript入门(二)一、命名  就像css一样,js也有自己的命名规范。  由于+号在js中可以进行字符串之间的的运算,而-号是js命名中不支持的字符,因此这两个字符都不可以出现在命名的名称中。不过下划线’_'可以出现在命名名称中的任意位置,包括开头。  其他时候我们会遵循驼峰式命名法。  ECMAScript 规范中标识符采用驼峰大小写格式,驼峰命名法由小(大)写字母开始,后续每个单词首字母都大写。根据首字母是否大写,分为两种方式:1、Pascal Case 大驼峰式命名法:首字母大

2020-10-02 13:33:36 128

原创 HTML入门结构与语法

结构与语法一、结构1、文档声明2、head标签二、常用标签及其用法1、常用标签2、图像标签及文件路径一、结构  首先我们先来了解一下html文件的基本框架<!DOCTYPE html><html lang="en"> <head> <meta charset="UTF-8"> <meta name="viewport" content="width=devic

2020-10-02 13:32:58 204

原创 HTML高级标签

HTML高级标签一、表格标签二、表单标签三、容器标签 一、表格标签  表格标签呈现一种嵌套关系,最外层是table标签,而我们的表格的内容是写在tbody标签内的。其中我们用tr标签创建行也就是tr标签内部的内容在同一行,后面的tr标签同理也是各占一行,依次排列下去。  我们知道,表格都有一行用于说明该行或者该列是什么数据的内容,这部分我们成为表格头,用th标签将其分隔开。后面的每一行中的每一项我们用td标签来分开。默认效果中th标签内的字要比tr标签内的粗,或者说字重比较大

2020-10-02 13:32:12 512

原创 CSS选择器一

CSS选择器(一)一、五种基本选择器1、标签选择器2、class 类名选择器3、id选择器4、通配符选择器5、属性选择器   一、五种基本选择器选择器  前面我们给元素添加样式,也就是字体颜色和元素宽高时,我们是直接写在标签内的。这种写在标签内的style我们称为行间样式。而且行间样式的优先级高于选择器的优先级。优先级就是实现样式的忧先顺序,优先级高的会覆盖掉优先级低的样式。  除此之外,我们还有其他实现样式变化的写法,内联样式表和外联CSS。我们下面先来介绍

2020-10-02 13:31:33 353

原创 CSS选择器二

CSS选择器(二)二、五种派生选择器1、后代选择器2、子元素选择器3、相邻兄弟选择器4、伪类选择器5、伪元素选择器   二、五种派生选择器派生选择器与五种基本选择器的一大区别是,派生选择器是通过依据元素在其位置的上下文关系来定义样式。这里称其为派生选择器是依循了CSS2中的叫法。在CSS1中,这种选择器被称为上下文选择器。这两种叫法都是指向那些依据上下文关系来定义样式的选择器。本文接下来统一称呼为派生选择器。而且很多时候我们都可以通过与普通家族关系类比

2020-10-02 13:30:48 290

原创 CSS盒模型

CSS盒模型一、盒模型介绍二、盒模型阴影三、display属性四、补充细节前面我们介绍标签时介绍过,标签元素可以分为块元素,内联元素和内联块元素。div属于块元素的一种,他的特点是具有完整的盒模型。   一、盒模型介绍为了方便解释,我们先创建一个div元素CSS .d1{ width: 200px; height: 200px; background-color: red;

2020-10-02 13:30:09 232

原创 CSS过渡和二维转换

CSS过渡和二维转换一、过渡二、二维转换   一、过渡  过渡指的是处理一个状态到另一个状态的过程。过渡属性处理了元素从一个样式变为另一个样式的逐渐改变的过程。我们一般使用transition属性去实现过渡效果。  需要注意的是,过渡与动画不同,过渡只处理一次变化  transition有以下语法属性描述transition简写属性,用于在一个属性中设置四个过渡属性。transition-property规定应用过渡的 CSS 属性的名称。

2020-10-02 13:29:26 303

原创 3D转换

3D转换实现3d转换我们需要构建嵌套关系,创建3d空间。 <div class="wrap"> <div class="wrap-in"> <div class="d1">3d转换</div> </div> </div>对这三个嵌套关系的div,我们需要在css中定义一些样式 .wrap{ <!-- 视距 --&g

2020-10-02 13:27:50 335

空空如也

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除